ニュースで昨日、
米AI開発大手のアンソロピックは12日、同社の最新AIモデル「Claude Fable 5」および「Claude Mythos 5」のすべての顧客への提供を即日停止した。
とありました。
このAI。凄すぎて、もし悪用されてしまうとかなり危険だからなんです。
Anthropic社が開発している「Claude Mythos（ミュトス）」というAI
AIが文章を書いたり、プログラムを書いたりすることにはもう驚かなくなりました
文章を書く。
プログラムを書く。
質問に答える。
そんなことはもう珍しくないですが
このミュトスは少し話が違ってきます。
このAI、人間が何十年もかけて作ってきた巨大なシステムの欠陥や弱点を、人間よりも圧倒的なスピードで見つけてしまうんです
世界中で使われているソフトやブラウザ
何百人もの優秀なエンジニアが何年もかけて作り上げたものです。
当然、その間に何度もチェックされています
それでもミュトスは
「ここ危ないですね」
「ここも危ないですね」
と次々に問題点を見つけていく
人間なら何日も何週間もかかる作業を数時間でやってしまうそうです
私達の社会って
完璧だから動いているんじゃなくて
「まだ穴が見つかっていないから動いている」
だけなのかもしれません
銀行も
病院も
電力網も
インターネットも
実は穴だらけで
人間が見つけられていないから平和に見えているだけなんです
そしてミュトスは
その人間には見えていない穴を見つけてしまう
なんだか人間には見えないものが見えているみたいです
この穴を悪い人側で見つけられてしまうと世の中のシステムが簡単に乗っ取られてしまうんです。
なので日本でも国家レベルで危険視されています。
さらに怖いのはここからです
人間は疲れます
眠ります
集中力も切れます
でもAIは違います
24時間動き続けます
しかも1体じゃありません
100体でも1000体でも同時に動かせます
もし優秀な技術者1人分の能力があったとして
それを1000体並べたらどうなるんでしょう
もはや会社とかチームとかいうレベルじゃありません
知能そのものを大量生産しているようなものです
昔の映画やアニメでは
AIが人類を支配するなんて話がよくありました
当時は完全にフィクションでしたが今はちょっと現実味が出てきました。
もちろん今のAIは万能ではありません
間違いもします。
失敗もします。
でも考えてみると、人類の歴史の中で
「自分達より速く考える存在」
を作ったのは初めてなんですよね
そう考えると少し不思議ですね
便利な道具を作ったつもりなのかもしれませんが
数十年後に振り返った時
あれは道具ではなく
「新しい知性の誕生だった」
そんな風に言われる日が来るのかもしれません。
ターミネーター？
