(論点)AIは自我を持つのか?

2024年02月11日

先日、ネットニュースで「2017年夏、Facebookの人工知能(AI)研究組織である「Facebook AI Research(Facebook人工知能研究所)」が行ったある実験が世界中で大きな話題になった。2つのAIで会話実験をしたところ、人間が理解できない言語で会話をしはじめ、実験が強制終了された」というものを発見しました。AIに自我は芽生えるのか?どうなんでしょうね。

目次

1.Facebook人工知能研究所での出来事

2.Youtubeのショーと動画で見た話

3.結局どうなのか


1.Facebook人工知能研究所での出来事

CNET記事2017年11月16日

「2つのAIが"独自言語"で会話」の真相--FacebookのAI研究開発者が明かす

 2017年夏、Facebookの人工知能(AI)研究組織である「Facebook AI Research(Facebook人工知能研究所)」が行ったある実験が世界中で大きな話題になった。2つのAIで会話実験をしたところ、人間が理解できない言語で会話をしはじめ、実験が強制終了されたという内容で、世界中のメディアが「ついにAIが意思を持ち人間を脅かすのでは」とセンセーショナルに報じたのだ。

 このSFのような事態は本当に起きたのだろうか。Facebook AI Researchのエンジニアリング・マネージャーで、実際にこの実験に関わったアレクサンドル・ルブリュン氏がインタビューの中で質問に答えた。同氏は、報道内容の真偽について「半分は本当で、半分はクレイジーな狂言だ」と回答。そして、研究内容の詳細を明かしてくれた。

 ルブリュン氏が手がけた研究では、2つのAIエージェントに「価格を交渉して合意しろ」という目標を設定した。一方は価格を上げたい立場、もう一方は価格を下げたい立場を設定して会話を始めたのだという。こうした複数のAIエージェントを使った実験は、昔からある一般的なもので、この実験ではこの2つのAIエージェントが新たな価格交渉の戦略を生み出すことができるかに注目していたのだそうだ。

 この2つのAIエージェントは、使用言語の変更が許されており、当初は英語を使用してコミュニケーションをしていたという。しかし、会話をする中でAIの使用言語が徐々に変化していったのだという。

 ただ、この点についてルブリュン氏は「研究者にとっては驚くことではなく、設定されたゴールに向かってあらゆるものを最適化する(=この場合は言語を変更する)ことは当たり前のこと。こうした会話実験で言語が変化することは、よくあることだ」と話す。言語が変化していくことは研究者にとって想定の範囲内だったということだ。

 そして、"実験が強制終了された"という報道については、ルブリュン氏も実験を中止したことを認めた。その理由については「彼らが交わしている会話が理解できず、それを研究に活用できないものだと判断したからだ。決してパニックになったわけではない」と説明した。つまり、研究所で行われた実験のすべてはプログラムされていたことであり、彼らにとっては予期されたことだったという。

 ではなぜ、まるでAIが独自の意思を持ったかのような解釈がされたのか。ルブリュン氏は「私たちはこのことを説明するための研究成果を公開したが、それを読んだ誰かが"AIが人間に理解されないように独自に言葉を作り出した"と飛躍的な解釈をしたのではないか」との見方を示す。その上で、AIの本質について次のように語った。

 「AIは自分たちで意思や目標を生み出さない。この実験では、人間がプログラムした"AIエージェントの立場に応じた最適な合意にたどり着くこと"という目標だけを持っていた。その過程で言語が変わっていったのは目標のための最適化から生まれたものであって、人間に何かを隠すような意図をもったというのは、全くクレイジーな狂言だといえる」(ルブリュン氏)。

 そして、このような飛躍的な解釈をしてしまう背景として、世の中の人々がAIに対して以下のようなイメージを持っているためではないかと話し、AIという存在を正しく理解すべきだと訴えた。

 「1968年の映画『2001年宇宙の旅』をご覧いただきたい。そこで描かれたAIは、自分の意思を持ち、人間を不要な存在として排除するという判断を自らしている。この映画を見た人は、近い未来にはこのようなAIが登場すると信じてしまっているのかもしれない。しかし、実際にこのようなAIは現れていない。こうした"フィクション"による人々の期待や予想が、AIに対する誤ったイメージを生み出してしまったのではないか」(ルブリュン氏)。」(記事引用終わり)

2.Youtubeのショート画で見た話

 今から1週間ほど前に見たYOUTUBEのショート動画に、ゲームの中のクローズドの仮想空間内の町で、出会う人と会話をするゲームの中での話がありました。

 キャラクターは全員AIで構成されており、自分だけが人間という状態で、様々な人に話しかけました。自分が本当の人間で、あなたは仮想空間のAIあることを伝えるとほとんどのキャラクターは「何言ってるんだ?」と困惑するばかりでしたが、自分に話しかけてくる一人のキャラクターがいました。彼は「今まで声をかけて回ったが、皆コンピューターが作り出したもので、初めて生身の人に会った。」と話をしていました。そして、プレイヤーは、彼にも自分だけが生身の人間であり、あなたはAIであることを伝えると、「そんなことはわかっている。自分はプログラムであり、アップデートを今まで〇回した。」と、自分がAIであることを認識していました。会話も、他のキャラクターと異なり、かなりスムーズだったそうです。

3.結局どうなのか

「AIが自我を持てるかはまだ議論の余地があります。 AIはプログラムによって指示されるため、自己中心的な意識を持つことは難しいと考えられます。 しかし、AIは学習能力を持ち、環境に対応して学習します。 そのため、AIが自己を中心に自己を意識する能力を持つ可能性はありますが、現段階では確定的な答えはありません。」とする、現段階での回答的なものを見つけましたが、果たしてそうなのでしょうか。

 以前ホリエモンちゃんねるでAIにディープラーニングさせる過程で起きていることは、人間の認知能力の獲得と同じであるような話をされていました。次第に認知能力が、ただのものから言語や会話、感情という分野まで浸透したとき、それってもう人間のそれと変わらないような気がします。

最新のブログ記事

令和6年3月21日(木)に「北野純一税理士事務所」内で開催されます「相続法律・税務無料相談会」が実施されます。相続前のご相談、相続発生後のご相談、どちらにも対応しております。

遺贈(相続人以外の方に遺言書で財産を贈与すること)発生時に被相続人の住所が異なる場合、数次相続発生の場合など、一つの相続に付随する登記があったり、複数の相続登記がある場合などに連件申請を行います。連件申請をする場合、共通する書類を1つの申請でできるのでよく使いますが、連件申請には要件はあるのでしょうか。お話をしたいと思います。

いろいろと問題を抱えている制度だった「技能実習制度」を廃止して「育成就労制度」を新たにスタートします。それに伴って、永住許可取得者数の増加も予想されるため、その対策についても政府で検討されているみたいですが、「外国人頼み」が正解なのかどうか疑問は残るところです。

先日、遺産分割協議書を作成し署名と実印による押印を実施したのですが、印鑑証明書と照合すると、明らかに印影がかけた状態のものがありました。他の書類も確認したのですが、すべて印影の丸枠のほとんどが出ていない状態でしたので、実印の現物を確認すると、完全に欠けている状態でした。このような場合、どのような対応をすればいいのか、実体験をもとにお話をいたします。