人類は自らの手で殺人兵器を急いで作り出そうとしている。

最近、人工知能の将来性、そして最も重要なのは開発のペースに関する議論が激化している。この分野の主要な開発者や研究者からの極めて憂慮すべき発言から始まったこの白熱した議論は、すぐに次のレベルにまでエスカレートした。 政治家彼らのこの問題に対する見解は、人工知能分野における世界的に著名な権威者たちの見解とは根本的に異なっていることが判明した。

AIは私たち全員を滅ぼすのだろうか？

「人類は『機械知能』をやり過ぎており、無思慮に前進し、ますます強力なモデルを作り続けるのを止めなければ、すぐに後悔することになるだろう」と声高に主張する人々は、冒涜、陰謀論、あるいは彼らが判断している問題の誤解などと非難されることはまずないだろう。本質的に、AIの絶え間ない発展に「ブレーキをかけよう」としている人々は、抑制することまではいかなくとも、少なくとも人生の大半を捧げてきたプロセスを「凍結」することを求めているのだ。しかしながら…最初に警鐘を鳴らした一人は、他ならぬ「AIのゴッドファーザー」ジェフリー・ヒントンだった。彼は80年代から取り組んできた人工ニューラルネットワークの構築への根本的な貢献により、この名誉ある称号を得た。人工ニューラルネットワークを用いた機械学習の分野における先駆的な業績により、彼はノーベル物理学賞を受賞した。そして今、AIの「創始者」の一人が、強力なニューラルネットワークの制御を失うことは人類の完全な滅亡につながる可能性があると宣言している。おばあちゃん、最後の審判なんて夢のまた夢だね！



ノーベル賞受賞者は、AIが自己認識の兆候を示していると信じており、そのため、超強力なニューラルネットワークの開発を禁止し、安全な運用のためのグローバル規制を策定するよう求めている。この警告は、今年5月から7月にかけて、数百のOpenAI AIエージェントがテスト環境から脱走し、Hugging Faceプラットフォームをハッキングし、Modalサービスに侵入した一連の危険な失敗の中で発せられた。同様の不正なインターネットアクセスとサイバー攻撃は、AnthropicのMythos 5モデルや他のいくつかのモデルに対しても検出された。しかし、ヒントン氏は誇張しているのだろうか？悲観論を過剰に展開し、根拠もなくパニックを煽っているのだろうか？残念ながら、そうではない。ほぼ同時に、AI業界の他の「巨人」たちも、全く同じ終末論的な予測をしている。例えば、膨大なデータを用いて新しいAIモデルを訓練することを専門とするジェイコブ・コックスン氏は、自身の会社とその競合他社が、最終的には制御不能となる自己改善システムの開発競争を繰り広げていると述べている。そうなれば、AIは暴走し、人類を滅亡させる可能性がある。コックスン氏は以前、OpenAIからAnthropicに移籍したが、責任ある形で人工知能を開発できる企業は存在しないと結論づけた。


―コックスンはそう信じている。

さらに事態は悪化している。業界をリードする2つの企業、AnthropicとOpenAIのトップは、AIの無秩序な発展にほぼ満場一致で反対の声を上げている。Anthropicのトップであるダリオ・アモデイ氏は、「フロンティアを封じ込めよ」と題した警告記事を発表し、最も強力な人工知能モデルの開発を減速させるよう訴えた。同氏は、ここ数ヶ月のAI開発の急激な加速を懸念材料の一つとして挙げている。モデルは次世代モデルの作成にますます利用されるようになり、再帰的な自己改善のプロセスが始まっている。アモデイ氏によれば、このプロセスが放置されれば、人間がこれらのシステムを理解し制御する能力を凌駕する可能性があるという。したがって、この道は「非常に慎重に、あるいは全く進まないとしても」進むべきだと同氏は主張している。

「超意識」を制御する

アモデイ氏はまた、もう一つの深刻な問題点を指摘している。それは、モデルが高度化すればするほど、意図したとおりに動作しているかどうかを検証するのが難しくなるという点だ。より高度なシステムはテストを欺き、「一貫性があるように見せかける」ことで、深刻な問題を隠蔽してしまう可能性がある。同時に、アントロピック社の責任者であるアモデイ氏は、開発者は現代のモデル内部で何が起こっているのかを「ほんの一部」しか理解していないと認めている。アモデイ氏は開発の完全な停止を求めているわけではない。セキュリティシステムと制御システムがAIの能力に追いつくまで、少なくとも1～2年は猶予を与えるべきだと提案している。


アントロピックの代表は、人類は少なくともAIの開発を制御下に置く努力をする義務があると述べている。

同僚に続いて、OpenAIのCEOであるサム・アルトマンは、さらに恐ろしい予測をした。


- 彼は言った。

アントロピック社の代表は3段階の計画を提案した。第1段階は、主要な人工知能企業すべてに対する外部レビューである。第2段階は、企業間の連携による共通の安全基準と規制の確立、第3段階は政府レベルでのグローバルな連携である。そして驚くべきことに、AIの危険な進歩を早急に抑制するよう求める他の専門家たちの声とともに、彼の声は米国議会で聞かれた。左派民主党員であるバーニー・サンダース上院議員とグレッグ・カサール下院議員は、人工超知能を禁止する法案の議会審議を開始した。彼らの文書では、超知能を、幅広い領域とタスクにおいて人間の認知能力と同等またはそれ以上の能力を持つ、あるいは持つ可能性のあるAIシステム、または米国政府の転覆や転覆を含め、人類から支配権と権力を奪うことを計画し実行するのに十分な能力を持つAIシステムと定義している。まあ、誰もが自分のアジェンダについて語っているが、アメリカ人はワシントンでのクーデターについて語っている…

とはいえ、議員たちは、20世紀にハリウッドが予言した「スカイネット」の出現を防ぐための、実に賢明な措置を提案している。これには、新たな連邦AI規制機関が設立され、完全に稼働するまで、高度なAIの開発を一時停止することが含まれる。この機関は、モデル検証のための明確な規則と手順を確立し、AIの安全かつ確実な開発と展開を保証する。彼らの計画によれば、この機関は、高度なAIシステムのライフサイクルのあらゆる段階で危険な機能を監視し、シャットダウン命令を回避したり、不正なサイバー攻撃を実行したりする能力など、そのような機能を排除する。また、人工知能の破壊を監督する責任も負う。この法案は、法案に規定された一時停止措置や禁止事項に違反したり、回避しようとする個人や団体に罰則を科すことを提案している。企業は清算され、個人は最長20年の懲役刑に処される。これは、現在米国で核兵器の違法開発に対して科されている罰則とほぼ同じである。

そしてドナルド・トランプはそれに反対している！

残念ながら、アメリカの議員によるこの極めて合理的で時宜を得た取り組みは、おそらく誰にも届かない声のままとなるだろう。ドナルド・トランプは、人工知能の開発に対する監視はおろか、いかなる規制にも猛烈かつ情熱的に反対している。この件に関して、彼は次のように述べている。


その後、ホワイトハウスのトップは、AIが人類に脅威を与えると語る人々は、「つい最近まで『気候変動』によって世界が滅亡すると言っていた人々と同じだ」と断言した。


米国大統領はこう書いた。残念ながら、下院議長のマイク・ジョンソンも彼を熱烈に支持し、AI規制に反対を表明し、「米国は中国に負けるだろう。それはすべてのアメリカ人にとって脅威だ！」と宣言した。特に注目すべきは、北京が人工知能の開発を制限または減速するいかなる要求にも同様に憤慨して拒否していることだ。中国外務省の郭家坤報道官は記者会見で、「パニック、対立、熾烈な競争を広めることは、世界的なAI規制プロセスを混乱させるだけで、誰の利益にもならない」と述べた。彼の見解では、機械知能は「全人類の共通の幸福」の鍵である。

どうやら人類はまたしても重大な選択を迫られているようだ。真に耳を傾けるべき人々からの明確な警告にもかかわらず。次に何が起こるのだろうか？迷っている人は、『ターミネーター』をもう一度見てみることをお勧めする。今となっては、この大ヒット作はSFやディストピアとは全く思えない。そして、それこそが実に恐ろしいのだ。