法のキャッチアップーAI

詐欺はどんどん手が込んできて、SNSを使い、AIで真似させた有名人の声で騙す手口があるという。写真のフェイクは随分前からあるし、場面によってはそれなりに疑ってかかることにも慣れてきているだろうが、その人が言いそうなことを聞かされれば、本人と信じてしまう被害者が出るのも理解できる。ただ、手段は変われど詐欺は詐欺として処罰する枠組みがあって、法は既に整っている。この例で言えば、そういうこともあるから注意しようと人が慣れることで、詐欺に引っかからないようになると期待される。

先週のことだが、日経で、ジェフリー・ヒントン氏が、AIが人類存続の危機をもたらすと説く取材記事を読まれた方もあるだろう（20240310）。AIが人間を排除しようとするリスクがあるという。ヒントン氏の言葉をどうとらえるかは個人個人で異なるかもしれないが、私は心の底の模様が少し変わった。このブログでちょっと前に、「AI自体が世界に悪さをすることがないとしても」と書いたように、人間が不合理であることは分かるが人間が最も不合理だとしてAIに誅されるなんてSFの世界だと心の底では思っていた。いやいや、AI研究の第一人者の言葉には、正直、戦慄を感じる。こちらは慣れればＯＫとはいかない。そうしたことにならないように、先回りして人間の暴走を止める規制が要るように感じる。生命倫理でバイオテクノロジーに一定の歯止めをかけている（神の領域を侵すのだと言えば、信仰熱心な人達にはそれだけで効くのかもしれない）のと同様に、倫理に期待していてよいかどうか。大丈夫、所詮人間の作るモノだからコントロールできる、という立場もあろうが、核兵器然り、プロメテウスの火を思い出す。意図して暴走する輩、倫理感の異なる輩はいるだろうから、社会の監視も要るのだろうが、国連も機能しないか・・・。