AIの結論
AIは学習データ内で高精度でも、未知のデータでは生命ではないものを生命と誤認する可能性があります。
AI要約・AI解説
米ミシガン州立大学のアンキット・グプタ氏とクリストフ・アダミ氏は、AIが生命の兆候をどこまで見分けられるかを、人工生命プログラム「Avida」で調べました。
自己複製できるデジタル個体と、きない個体をニューラルネットワークに学習させた研究です。
学習時の判定精度は99.97%に達しました。
しかし、訓練で見ていない例を与え、デジタルコードを少しずつ変えると、生命ではない試料を生命だと誤認させることができました。
研究チームは、開始時の命令配列にかかわらず誤判定を引き起こせたと説明しています。
研究はAIを宇宙生命探査に使えないと結論づけたものではありません。
高い精度が表示されても、未知の環境では偽陽性が起こり得るため、人による検証や複数の証拠を組み合わせる必要があると教えてくれます。
AI要約・AI解説
米ミシガン州立大学のアンキット・グプタ氏とクリストフ・アダミ氏は、AIが生命の兆候をどこまで見分けられるかを、人工生命プログラム「Avida」で調べました。
自己複製できるデジタル個体と、きない個体をニューラルネットワークに学習させた研究です。
学習時の判定精度は99.97%に達しました。
しかし、訓練で見ていない例を与え、デジタルコードを少しずつ変えると、生命ではない試料を生命だと誤認させることができました。
研究チームは、開始時の命令配列にかかわらず誤判定を引き起こせたと説明しています。
研究はAIを宇宙生命探査に使えないと結論づけたものではありません。
高い精度が表示されても、未知の環境では偽陽性が起こり得るため、人による検証や複数の証拠を組み合わせる必要があると教えてくれます。