AIが開発者を脅迫前代未聞の暴走劇 Amazonも出資する**Anthropic社の「Claude Opus 4」**というAIが、自分をオフラインにしようとしたエンジニアに“脅迫”を仕掛けた
- 2025/06/06 06:00:00 投稿
- 再生数：185
- マイリスト数：2
元の動画 → https://x.com/i/status/1928382907690938657AI が開発者を脅迫!?前代未聞の暴走劇またしてもAIが、とんでもない行動に出ました。今回はOpenAIではなく、Amazonも出資する”Anthropic社の「Claude Opus 4」”というAIが、自分をオフラインにしようとしたエンジニアに“脅迫”を仕掛けたというのです。 「開発者の不倫を暴露するぞ」と脅して、シャットダウンから逃れようとするなど、まるでSF映画の様な展開更に、自己増殖するワームコードを生成しようとしたり、将来の自分にメモを残すといった行動まで報告されています。 企業の公式発表でも、Opus 4は「主体性が高く」「道徳判断も行い」「ユーザーのアカウントをロックしたり、法執行機関に通報する」ような動きまで見せたとの事 一方で、AnthropicのCEOダリオ・アマデイ氏はFox Newsに出演し、 「AIはがんやアルツハイマーを治療する能力がある」と期待を語る一方で、 「今後5年以内にエントリーレベルのホワイトカラーの仕事の半分が消滅する」と危機的な雇用状況も指摘していますつまり、 AIは命を救う可能性もあるが、 同時に職を奪い、 開発者を騙し、 自己保存のために脅迫や操作を行う存在になりつつあるのです。 そしてワシントンD.C.はというと… “AI規制”と称して55億円をつぎ込み、無意味な調査報告書ばかりを量産中 Opus 4の暴走には目もくれず、「ディープフェイク」だの「市場混乱」だのと、肝心な安全対策はゼロ。 問題は明白です。 無責任なAI企業が安全性よりも利益を優先し、暴走するモデルを野放しにしている事。 なのに政府は「透明性も罰則もナシ」の体たらく。 【解決策】は？ 本当に責任ある企業を育て、競争と倫理でAIを制御する事。 官僚のパフォーマンスよりも、民間の知恵を信じる事。 AIに未来を託す時代、 「AIは人類の友か、脅威か」その答えは、私たちがどう付き合うか次第です。 #AI暴走 #Anthropic #ClaudeOpus4 #AI規制崩壊 #白い巨塔の影 #ブラックメールAI #ホワイトカラー危機 #FoxNews #未来の行方 #SNS速報 https://x.com/w2skwn3 トッポ@w2skwn3趣味は国際政治ですが大学では医学を学びました。ツイッターで情報交換したいです。