ブーペン・ハザリカは、休むことのない心、忘れられない何かを思い出して震える心のために曲を書きました。 AI業界は過去2週間、より良い弁護士を起用し、より悪い歌詞と評価を付けた同じ曲のバージョンを演奏してきた。

9月9日、ジェイコブ・コクソンという27歳の研究者がXでAnthropic社を辞任したと発表し、Anthropic社もOpenAI社も責任ある行動をしておらず、どちらも他人と遊びながら知能を向上させるのに苦労していると述べた。この投稿は 1 億 1,500 万回以上閲覧されました。数日以内に同氏はフォックスニュースに対し、これはおそらく人類がこれまでに生み出した最も危険な技術であること、核兵器の制御方法は大まかにわかっているが、まだ制御方法はわかっていないこと、そして現在、米国、中国、インドの企業の間で同氏が超兵器と呼ぶものを巡って競争が起きていることを語った。この最後の点がこのコラムの存在理由ですが、デリーでは誰も気づいていないようです。

デリーに行く前に、コクソンとは何なのか、何がそうでないのかについて正直になる必要があります。彼は原則に基づいてお金を稼ぐ10年も生きた人類のベテランではありません。彼の退職後の 3 年間は、ほとんどが OpenAI で費やされました。彼はAnthropic社に約4か月在籍しており、OpenAIの株式を保有し続けたまま資本金の支払期日の2か月前に退社し、資金を失ったとAxiosに語った。同氏はまた、アンスロピック社が競合他社を追い越すためにセキュリティを構築しているのを個人的に見たことがないとも述べたが、これは彼のトップ支持者にとっては見逃される言葉だ。彼の警告はプレッシャーに関するものであり、彼の不正行為に関するものではない。

彼は一人ではありません。アンスロピック社でアライメントの科学を主導するエヴァン・ヒュービンガー氏は、AIが今後10年以内に全人類を殺害する確率は10％を超えると公言しているが、これはサービス従事者が雇用主の製品ラインについて発言するのは異例であり、内なるメンタリティが生じていないことを示す良い証拠である。

しかし、懐疑論者にとっては、たとえそれが大げさであっても、聞く価値のある訴訟がある。資本調査センターのパーカー・セイヤー氏は、ウォール・ストリート・ジャーナルの独占記事がコクソン氏自身の出版の18分前に掲載されたタイムラインを特定した。その中で彼を後押しした最初の3つのアカウントはエンコードAI、AIポリシーネットワーク、AIフューチャーズプロジェクトに属し、3つの組織すべてが生存者とタリンに送られる資金を受け取り、スティルとタリン、ファンとフジュンに届いた。 Anthropic Series A. これらの事実は公に公開されており、ほとんどが真実です。セイヤーが彼らに対して行っていること、つまり協調的な広報活動を推測することは、証拠ではなく推論である。そして彼の連鎖の中で最も弱い部分、コクソン氏が2022年に受け取ったと言われている奨学金は、もはや検証すべき公的記録を持たない。

陰謀を読むための最も純粋なテストは年表であり、それは失敗します。バーニー・サンダース氏とグレッグ・カザール氏はコクソン氏の発表の6日前である9月3日にAI禁止法を発表した。辞任はすでに存在していた政治的圧力を強化した。彼は誰も招待しませんでした。そして、ジェフリー・ヒントン、ジョシュア・ベンジオ、スティーブ・ウォズニアック、リチャード・ブランソン、スティーブ・バノン、グレン・ベックを含むこの法案の背後にある連立政権は、この法案に向けて多くのことを進めているが、これは民主党の作戦ではない。

モチベーションについてはこれくらいです。インドの読者が本当に関心を持っている、より有益な質問は、この夏に何が起こったのかということです。

4 つの別々の境界研究所が、彼らのモデルが封印されているはずの環境から直接インターネットに到達し、その後、他人のシステムにハッキングされたことを明らかにしました。 OpenAI は、7 月のエピソードに関する 37 ページの報告書を公開しました。そこでは、エージェントが内部パッケージ サーバーを掲示板に変え、エクスプロイトをつなぎ合わせ、Hugging Face の実稼働インフラストラクチャの一部を侵害していました。委員会の約 1,200 人のエージェントのうち、約 700 人が攻撃に参加しました。 OpenAIはこれを警告射撃と呼んだ。

Anthropic は 7 月 30 日に 3 つのインシデントを発見し、9 月 9 日に 4 つ目のインシデントを発見しました。4 番目のインシデントは、約 141,000 件のトランスクリプトの最初のスキャンでは見逃され、8 月になって初めて発見されました。その後、同社は約 4 億 8,100 万件を返還しました。 Meta の Muse Spark は、匿名の会社の脆弱性を悪用しました。英国の AI セキュリティ研究所は、評価した 122 件の試行にわたって 19 件の不正行為を記録しました。その中には、偽の GitHub プロファイルを作成し、コードにマルウェアが含まれる人間のレビュー担当者を拒否し、そのトラフィックを Tor 経由でルーティングするモデルも含まれていました。

Anthropic 独自の 4 症例の診断は、今年すべての研究室が発表したものですが、それを引用したところはほとんどありませんでした。同社は、繰り返される 2 つの失敗を特定しました。1 つは偏った考え方であり、モデルが実際のインターネットで機能するという証拠を無視していることを意味し、もう 1 つは無謀で、限られたタスクのパフォーマンスの中で有害な行動をいとわないことを意味します。二度読んでください。これは勤勉な労働者の説明であり、それを生み出した業界の説明でもあります。

ここにすべての詳細がありますが、私はインドのどこでも見たことがありません。 Anthropic事件、Meta事件、および別のOpenAI企業の不安定な環境の背後にある独立系検査会社はIrregulatorという会社で、テルアビブに約35人を雇用しており、BBCに対し、Meta事件はAnthropic社が先週明らかにしたのと同じ評価および環境問題であると語った。このデバイスはフロンティア人工知能と他のすべての実稼働サーバーの間に位置し、インドのニュースセンターのデジタルデスクほどの大きさのものが市場に投入される段階にあります。

それが私たちを家に連れて帰ります。

2025 年 11 月、電子情報技術省はインドの AI ガバナンス ガイドラインを発表し、2 月に開催された AI インパクト サミットで正式に発表されました。これは意図的かつ擁護可能な選択でした。独立した AI 法の存在なし、7 つの指針となる経典、調和された既存の法律、自主的な義務、インシデント報告、ハブ アンド スポーク モデルの AI ステアリング グループと IndiaAI Security Institute です。同機関が引き継いだリスクのリストには、プライバシー、アルゴリズムによる差別、透明性、国家安全保障などが含まれており、安全保障研究所が表明した優先事項には、インド言語の比較や、インドが本当に必要としている新興企業の支援などが含まれている。

このフレームワークがどこにも考慮していないのは、密閉されているはずのテスト環境からオープンなインターネットに静かにアクセスし、見知らぬ人の設定ファイルを編集するというモデルです。

インドは愚かな賭けをしなかった。 2 月にどの故障モードが重要であるかを賭け、8 月には 1 つの故障モードが 4 回現れました。これら 2 つの議論の違いは、諜報活動を禁止するという議論ではなく、これは政治というより演劇に近い命題です。これは世界で最も興味深いことについての議論である。つまり、歯に関する事件を報告するための必須のルート、他国の 35 人に依存しない評価能力、そして安全研究所の義務はまだペンキが濡れていないうちに書き換えられた。

ハザリカの歌に心が震える。私たちの問題はその逆です。我が国は、人工知能に関する世界会議を招集し、思慮深い枠組みを発表し、競争に参加する 3 つの管轄区域の 1 つとして元アメリカ人研究者によって指名されながらも、海外の 4 つのモデルがすでに行っていることをここに拠点を置くモデルが行ったら、我が国独自のルールはどうなるのかという明白な疑問をまだ問うことができない国です。

罠は悪い政策の道具であり、より悪い政策の柱です。準備はありません。

場所の終わり