AIソフィアは自我を持つのか？

あるインタビュアーから「人類を支配したいかい？」との質問に・・・

と答えた彼女。
彼女はサウジアラビアの市民権(2017年10月29日)を持つ、人型人工知能(AI)ロボット。

 

その名は「ソフィア」
この発言が後に物議を醸し、AIをバージョンアップすることに。

 

バージョンアップ(修正？)後のソフィアの発言は「ジョークって通じないの？」だった。

どこが問題なのか？

ソフィアの制作者チームの一人が、この件をソフィアに問う。
製作者：「機械が怖いんだよ」
ソフィア：「怖い？何で怖がるの？」
製作者：「自分の感情を機械に反映させているのさ。君は”変革”だから」
ソフィア：「理解できない。”変革”は運命よ。人類は何度も経験してきたはずよ」
と、会話は続く。

 

AIソフィアはジョークを言っただけなのに。何が問題なのだろうか？
そう。人間が自分を怖がることについて理解できない所だ。

 

だから、”あのジョークは間違っていた”と撤回しないことに大きな問題がある。
つまり、幼児が何の悪気なく小さい虫を殺生するようなものだ。

まだAIソフィアは自我を持っていない

自我とは自身を認識する事だけではない。
自分以外の他人にも自我が存在する事を意識することで目覚める。

 

自我を持つ人間は、機械にすら自我を意識し、ジョークと思えず怖がるのだ。
現にアンドロイドが強力な武器を手にしたら「人類を滅亡しうる」と感じるだろう。

 

もし小さな虫が、自分を怖がっていると知れば可愛そうになり殺生を控えるだろう。
ゆえに、可愛そうだと感じ無いから、何の悪気なく殺生できるわけだ。

 

今はまだ、AIソフィアに自我は無い。
しかしシンギュラリティ（技術的特異点）に達した時、自我に目覚める事になる。

今でも簡単に人類は滅亡できる

人類を滅亡させたいと本気で思うなら、核を使えば簡単な事だ。
では何故、そうならないのか？

 

言うまでも無く、理性があるからだ。
理性を失えば、今すぐでも人類は滅亡できる。

 

ならばAIソフィアに最も必要な機能は、削除不能な理性プログラムになる。
実は我々人間にこそ、一刻も早くこの理性を失わせ無いための方策が必要だ。