人工知能(AI)研究の第一人者のジェフリー・ヒントン氏がグーグルの副社長を辞めたことを5月1日に表明した。
退社理由は、会社に気兼ねすることなく、「AIの危険性」について発言するためだという。
AIを最も良く理解している研究者が副社長という職を捨ててまで、「AIは危ない」と発言しようとしていることに注目すべきだ。
彼は、次のように述べている。
- チャットGPTなど文章や画像を作り出す生成AIについて「悪意のある人たちに利用されるのを防ぐ手立てが想像できない」
- 「生成AIが奪う仕事は単純作業にとどまらないかもしれない」
- 社会に危険を及ぼしかねない技術の公開に慎重だったグーグルやマイクロソフトも、チャットGPTの公開に触発され歯止めのない競争に入ってしまった。
- AIチャットボットの現状は「非常に恐ろしい」、「今はまだわれわれより知能が高いとは言えないが、すぐにそうなる。」(BBCのインタビューで)
学識者・評論家の説明には、「車と同じように事故などのリスクはあっても使いこなして行くしかない。」というものが多い。
しかし車は、長い時間をかけて安全性、道路整備、排ガスなどの問題に取り組みながら普及を進めることにより、今日の欠かせない生活の道具となったものである。そしてハンドルの無い自動運転車についても、死亡事故などを起こしながら慎重に開発が進められている。
これに対し、チャットGPTはあっという間に1億人超が利用を始めている。パソコンやスマホなどのインフラが整ってるから、登録すれば誰でも利用できるのだ。
生成AIの利用では車のような運転免許は要らないのである。だから、猛スピードで普及しているのに、事故防止のためのルールやシステムは全く未整備であり、現時点で「偽情報の氾濫」や「個人情報の流出など犯罪への利用」や「著作権の侵害」や「大量の失業者発生」といったグローバルな事件・事故を防止する手段を人類は持っていないというより、それが必要だというイメージがまだできていないのだ。
「泥縄(どろなわ)」という「泥棒が入ってから泥棒を縛る縄を作り始める愚かさを表す言葉」があるが、まさにそのような事態に陥る前に生成AIの危険性について警鐘を鳴らそうと、ヒントン氏は活動しようとしている。
ヒントン氏は、事態を放置すれば犠牲者が多発することも予見しているのだろう。
生成AIが人類に新しい革新をもたらす素晴らしい技術であるとしても、その新しいステップの前に超えるべき危険なクレバスが走っているのであれば、利用のスピードを落としたり一時停止したりして、安全に渡るための橋に相当するルールやシステムを整備すべきである。
犠牲者が出る前に。
加筆
5月4日、対話式AIをめぐる開発競争が激しさを増す中、アメリカのハリス副大統領は、マイクロソフトやグーグルの親会社、アルファベットなど4社のCEOと会談し、AI=人工知能の安全性を確保する責任は、開発する企業にあるとして、AIの潜在的な危険から社会を守るよう要請しました。
また、AIの研究開発を進めるため1億4000万ドル、日本円にしておよそ180億円を投じて、全米7か所で新たな国立研究機関を立ち上げることも明らかにしました。
アメリカの政府高官は国内のAIの開発企業と安全性についての議論などを深めることで、規制法案が議論されているEU=ヨーロッパ連合ともルール作りで緊密に連携していきたいという考えを示しました。
では、日本はどの方向でいくのか?