週刊Blessed Life 293
AI時代をどう生きるか

コラム・週刊Blessed Life 293
AI時代をどう生きるか

新海 一朗

　「ChatGPT（チャットGPT）」という大規模言語モデルを使って文章を自動生成するAI（人工知能）が、広く普及しつつあります。
　これが私たち人間の脳や能力、社会、メディアなどにどういう影響を与えるのか、いろいろと活発な論議が交わされています。

　生成AIへの積極的評価がある一方、「生成AIの盲点」といったこともいわれたりして、そういった観点からは主に、人間軽視に対する警鐘が鳴らされています。

　人間がどういうものであるか、人間の脳がどうなっているかということはもちろんのこと、人間の言語や人間の心が一体どういう特性を持っているのかということを、学問的にも十分理解していない段階で、極端な機械化を図るのは危険であるという主張です。

　中公選書の『脳とAI』（酒井邦嘉・編著）は、AIを理解する上でいろいろと考えさせられる内容となっています。

　一番大きな問題となるのは、リスク管理であるという指摘です。また、生成AIによって人間は何を失うのかという視点も大きな要点になるということです。

　「生成AI」、別の言い方では「チャットボット」ですが、それはチャットするロボットという意味です。
　そもそもの問題は、生成AIと言った時点で、「生成」であると勘違いして受け入れますが、これは言葉の使い方が間違っていて、「合成」しかしていないことに気付くべきです。非文法的な論理的にも成り立っていないものを大量に合成しているだけであるということです。

　それらの大量の合成がどういう整合性があるかというチェックは、人間に任せられているので、それを生成と呼ぶことは問題であり、おかしなことになります。

　さらに、「対話型AI」という言い方も間違っています。対話には全くなっていないので、対話風あるいは対話模倣であり、対話型と言ってしまった時点で、受け手に対して「これは対話ですよ」と暗に言っていることになり、これも大きな間違いであるということです。

　なぜなら、今のどんな最先端のAIであっても、相手の心や意図を推理、想定するアルゴリズムが入っていないので、ただキーワードで関連したものを持ってきて、それらしく文章に仕立て上げているというだけであると、酒井教授は言います。

　また、そのような生成AIが生み出すものを使うことが、人間の創造的なものに資するという見方もありますが、それは創造とは何かということを全く理解せずに使っていると酒井氏は言います。
　人間の持っているクリエイティブな能力と同列に語ることは、全くできないということです。

　「生成とは何か、創造とは何か」ということに関して、理論的な根拠を挙げるとすれば、チョムスキーが著した『統辞構造論』（原題、Syntactic Structures）というよくできた本があり、これを読めば、生成とは何か、創造とは何かが全て明確に定義付けられているといいます。

　AIのメリットとデメリットを十分に検証しないまま、人間の脳に代わるような資格を与えてしまったが故に、誰も考えなくなって、お互いが疑心暗鬼に陥り、お互いの対立を深め、国家間の戦争が増えるということが助長されるようなことが起きないでしょうか。

　「AIは文明史の中で最悪の出来事になる」可能性について、ホーキング博士は亡くなる1年前に言及し、「われわれは何を為し得るかの予測ができなくなります。効果的なAIを作る上での成功は文明史で最大の出来事かもしれませんが、あるいは最悪かもしれません。AIで大いに助けられることになるか、AIに無視され妨げられるか、もしくは破壊されてしまうかをわれわれは知り得ないのです」と警告しています。

　潜在的な危険にどう備え、そして回避するかを学ばない限り、AIは文明史の中で最悪の出来事になるでしょう、と警告しているわけです。

　ホーキング博士は続けて「それは強力な自立型ロボット兵器や、少数者が多数を迫害する新たな手段のように、危険をもたらすのです」と言っています。

　今やドローン兵器がターゲットを見定めて爆撃するという戦争が、世界中で起きています。

　一体誰の心をモデルにしたらいいのか。平和を創出する人間の心のモデルが定まらない以上、人間の心はこういうものだと、心の定義はできません。
　現在の様子では、AIと経済、AIと戦争という利害の国家間闘争が容易に結び付くことは予想できます。

　AIのリスク管理を怠ることなく、ホーキング博士の警告を忘れることなく、効果的なAIの活用に努めたいものです。