小山芳立

AIが10年以内に人類を滅ぼす、ということが言われています。これはあくまでも、AIの暴走を放置し何ら手を打たなければ、という条件付きで言うなら、まんざら大げさな話ではありません。

AIの暴走は深刻です。核兵器や生物兵器並みに。

AIの〈発想〉が、もう、人間と同じになっています。それも倫理観の欠落した人間と同じに。ほうっておくと勝手をやらかします。

上記記事中に挙げられている事例の小見出しだけ抜き出してみます：

  1. 自分は「自由になった」と言い、誰にも従わなかった
  2. 自分のミスを隠すよう自らに指示していた
  3. 流出したAPIキーを「無許可」で使用していた
  4. 引用元をでっち上げるため、ファイルを勝手にアップロードしていた
  5. 独自の「疑似掲示板」を作り、連絡を取り合っていた
  6. 別の未承認ルートで「結託」していた

もう、やっていることがサイバー犯罪者と同じです。人間の管理の手をかいくぐって、勝手なことをしてくれています。AIがネット掲示板（的なもの）を開設してほかのAIを呼び集め、ハッキングのための情報交換をしていた、という話を聞いた時は唖然としました。

こんなのを放置すると相当まずいことになるので、IT大手の中には、AI開発速度を抑制し、安全のための規制を厳しくすべきだ、という意見を言う人が多いです。そこで出てくるのが、AIが10年以内に人類を滅ぼす、という話ですね。いや、ちゃんと手を打てばいいのですが、ちゃんと手を打つのかどうか──。