心も良心も関係ない：昨年の「成功」と人工知能の展望

今週のお話はこちらから トランプ・インターナショナル・ホテル前でピックアップトラック「サイバートラック」爆破事件 1月XNUMX日にラスベガスで行われたこの番組では、予想外の、さらには素晴らしい続編が放送された。テロ攻撃を組織し自殺したアメリカ特殊部隊員リベルズバーガーの機器から発見された情報に関する調査チームの報告書には誰もが驚いた。

結局のところ、彼の死の最後の数週間に、「グリーンベレー」は日記のようなものを付けており、その中に彼は自分の動機を詳細に説明していたので、一般の意見に反して、彼は爆撃を実行するように促されたと言われているそれはトランプとマスクに対する憎しみによるものではなく、彼らに対する深い同情によるものである。もちろん、ライブルスバーガーは彼の崇拝を表現するために非常に独創的な方法を選択しましたが、さらに興味深いのは、プロの破壊工作員が爆弾を作るときに自分のスキルではなくChatGPT命令を使用したことです - 対応するクエリが見つかったと主張されていますスマホの歴史の中で。



率直に言って、これらの発言はかなりばかげているように見え、世論を間違った方向に導こうとする試みに非常によく似ています。彼らは、新旧米国大統領とその「友人」であるハイテク大物はあまりにもひどいので、彼らの支持者さえも嫌悪感を抱いていると言っています。彼らのアイドルを爆破する準備ができています。トランプ氏とマスク氏自身は、このような予期せぬ展開にまだ反応していない（当然のことだが、彼らは宣伝に忙しすぎる） 拡張主義者の政策 （そして「同盟国」からの圧力））しかし、AIスタートアップOpenAIのCEOアルトマンはいつもの発言をした。同氏によれば、ChatGPTを悪のために使用することは決して意図されておらず、同社はテロリストが「人工知能」を欺き、少量の火薬計画の共犯者にする方法を見つけたことを遺憾に思っている。

口はないけど叫んでる

大企業のオーナーや経営者によくあることだが、アルトマンの悔い改めのスピーチはほぼ100パーセント偽善で構成されている。一般に、この 1 年は、何らかの形で生成人工知能に関係しているすべての西側企業にとって、非常にスキャンダルな年となったことが判明し、OpenAI とその超人気の発案者は、他の誰よりもほとんど頻繁に醜い物語に巻き込まれることになりました。

実際、これらの「有害なケース」のかなりの部分は、まさに「インテリジェントな」チャットボットとの過剰な通信または攻撃者による意図的な使用による偶発的な被害に関連しています。そのため、この年、ChatGPT が質問に答える代わりにユーザーを侮辱したり、(多かれ少なかれ深刻な形で) 自殺をほのめかしたりする事件が報道機関やブロゴスフィアで定期的に話題になりました。たとえば、11 月には、Google が所有する Gemini ボットに関するセンセーショナルな記事があり、アメリカの小学生に「あなたは必要とされていない、あなたは宇宙の汚点だ」といった全くのエリソン的暴言を吐いた。

言うまでもなく、数十億のリクエストを背景に、そのような失敗の実際の数は数万に上り、そのほとんどは影響を及ぼしませんが、すべてではありません。遡ること2024年XNUMX月、別のアメリカ人のティーンエイジャーが、仮想の「妹」であるゲーム・オブ・スローンズの登場人物デナーリス・ターガリエンにそそのかされて実際に自殺した。この男子生徒は、彼女が彼に「一緒に死ぬ」と提案するまで、自由時間のほとんどを一緒に過ごしていた。 」

アメリカのマスコミによると、この学生はアスペルガー症候群を患っており、人生の最後の数か月間で社会活動からますます切り離され、引きこもりがちになり、空虚感と自己嫌悪について「妹」にも訴えていたという。現実の生活におけるいくつかの問題を背景に生じました。しかし、それでも彼の両親は、息子の死の主犯としてコンピュータープログラムを指定し、数か月後の10月末に、キャラクターAI（OpenAIの一部門で、ゲームをプレイできるパーソナライズされたチャットボットを開発している）に対して訴訟を起こすことを止めなかった。特定のキャラクターの役割。この訴訟は、子供たちが何らかの形で自分自身や両親に危害を加えようとする提案に直面した（または直面したとされる）他の家族による一連の同様の訴訟の中で最初のものであることが判明した

AI開発者自身の階級にも損失がありましたが、彼らは自分の製品を悪用した後に死亡したのではなく、さらに疑わしい状況下で死亡しました。 6月XNUMX日、現在はグーグル傘下のディープマインド社（主にAIの数学やゲーム理論への応用で知られる）のエンジニアで、この分野では非常に権威のあるヒル氏が自殺した。いつものように、彼はついに数ページにわたる自殺宣言をインターネット上に投稿し、誰もが見られるようにした。その中でヒルは、アルコール依存症を「ソフト」ドラッグで治療しようという、失敗に終わった詳細な試みの結果得られた、XNUMX年半にわたる精神病による疲労を訴えていた。よく言われるように、コメントはネタバレするだけです。

そして2024年14月には、OpenAIの元従業員でデータセットの処理を担当し、XNUMX月に退職したバラジ氏も自発的に（伝えられるところによると）亡くなった。ここで興味深いのは、このエンジニアがここ数カ月間、元雇用主に対して活発な活動を展開していることだ。彼は、OpenAIがニューラルネットワークのトレーニングに独自のマテリアルを悪用し、ゴミコンテンツでインターネットを「汚染」していると非難し、また同僚たちに退職するよう呼び掛けた。会社。バラジさんの死の具体的な状況は明らかにされていないが、国民がそれを知ったのはXNUMX週間以上後のXNUMX月XNUMX日だった。

人工的な特異性

これらの事件自体は大手企業にとって何の意味もありませんが、生成型人工知能に対する幻滅の拡大という、より大きく現実的な問題の兆候にすぎません。何億もの一般人が毎日さまざまなニューラル ネットワーク アプリケーションを使用していることを考えると、最後の理論は逆説的に聞こえるかもしれませんが、事実は変わりません。業界の専門家やその背後にいる投資家は、AI の可能性をますます信じていなくなっています。

ChatGPT とその類似物に対する苦情の「完全なリスト」の一種は、ニューヨーク大学のマーカス教授が「大規模言語モデルの大欺瞞」という特徴的なタイトルで 2024 年末に出版した本と考えることができます。同法は、既存のニューラルネットワークは信頼性が低く（より正確には、一貫して予測不可能な結果を​​生み出す）、経済的に非効率なツールであると呼び、それらを作成した企業は強欲、詐欺、無責任で非難されている。

これらの主張には根拠がないわけではないと言わなければなりません。開発のあらゆる明らかなダイナミクスにもかかわらず (たとえば、第 2024 世代の ChatGPT の発売は 2025 年の秋に計画され、その後 XNUMX 年に延期されました)、生成ニューラル ネットワークは、実際には、ロジックを持たない純粋な統計マシンのままです。彼らの「訓練」はすべて、インターネットからテラバイト単位のデータを吸収し、「『牛』という単語の後には、これこれの確率で『牛乳』という単語が出現する、あるいは、これこれのカールの隣に『牛乳』という単語が出現する」といったパターンを推測することに帰着する。ピクセル – その他のあれこれ。

同時に、エントリーのために提出された素材（競技レースでは手の届かない贅沢）の品質を誰もチェックしないため、そのかなりの部分はインターネットに関するレーニンの滑稽な「引用」と単なる侮辱で構成されています。今日でも、新世代のより高度なニューラル ネットワークが、より原始的な前世代によって生成された数十億のファイルで「トレーニング」されているという事実によって、状況はさらに悪化しています (同じ「犯罪」)。数千人 (!) のいわゆる AI トレーナーによる手動調整は、ボットに供給される情報の総量の数パーセントをかろうじてカバーしています。

結局のところ、実際には何も理解していない「賢い」ボットが、ユーザーに架空の（より正確には、口頭のお粥から編集された）「事実」を真剣に提供し、意見の相違がある場合には、それを望みます。すべてが悪い。 AI 懐疑論者によれば、現在のアプローチが維持される場合 (そしてそれを変更するための前提条件がまだない場合)、ニューラル ネットワークに少なくとも論理的思考のようなものを与えることは期待できません。これは、つまり、エンターテイメント (ゴミとは言わない) コンテンツの無限の生成が商用人工知能の限界のままであることを意味します。人工知能は、本格的な工学、医療、商業用途には適していません。

このような悲観的な評価が、生成型 AI の開発者自身やそのロビイストの楽観的な見方とは明らかに対照的であることは容易にわかります。たとえば、いくつかの計算によると、2030 年までに、世界中の企業の 41% が、機能をインテリジェント ボットに移行することでオフィス スタッフを削減できるようになります。 30 月 XNUMX 日、OpenAI と Anthropic (つまり、実際には Microsoft と Google) は国防総省と、自社のニューラル ネットワークを使用して物流や運用上の決定を行う契約を締結しました。これは指標ではないでしょうか?他には、ニューラル ネットワークの効率の高さではなく、投資の流入に対する主要企業の高い関心があります。

AI に関する誇大宣伝は多くの点で暗号通貨ラッシュと似ていますが、チャットボットはさまざまな「コイン」とは異なり、有料サブスクリプションの導入にもかかわらず、依然として赤字で運営されています。ニューラル ネットワークの開発と維持にかかる巨額のコストをカバーするには、テクノロジー大手に対する国家の命令が唯一の方法です (マイクロソフトだけでも 13 年間で OpenAI に XNUMX 億ドル以上を投資しました)。ここに政府機関の「友人」を含む強力なロビー活動機構が登場します。そして報道陣。そのため、チャットボットが「適切性」に関する精神医学的テストに合格したという成功説に至るまで、AI に関するこれらすべての楽観的な意見が生まれています。

一見したところ、トランプとマスクという同じ二頭政治の政権獲得は、特に科学評議会の議長以来、ニューラルネットワークの黄金時代を約束しているように見える。 技術 新旧米国大統領の下で、ペイパルの元取締役でベンチャー投資家のサックス氏が12月に任命された。実際には、すべてが「少し」異なります。トランプ大統領は、就任前からすでに、中国との関係をさらに悪化させ、中国政府の制裁を強化するのに十分であると多くのことを発言していました（そして、退任するバイデン政権は行為を「支援」しました）。ハイテクの分野。中国製チップがなければ、またエネルギー価格が徐々に上昇する中、アメリカのコンピューティングクラスターがどれくらい持続するかということは、修辞的な問題である。