AIの権威、気候変動よりもAIのほうがヤバいと発言

人工知能のパイオニアであるジェフリー・ヒントン氏は、金曜日のロイターとのインタビューで、人工知能が気候変動よりも「差し迫った」脅威を人類にもたらす可能性があると語りました。

ヒントン氏が言うには、AIの発展によって人間が失業する可能性や、AIによる誤った判断や悪用によって生じる問題、AIが人間よりも優れた知能を持つことによって生じる脅威などについて警告しています。彼は、AIが地球を支配するようになった場合には、人類にとって深刻な危機を引き起こす可能性があると述べています。

ヒントン氏は、AIの発展に伴い、人間と機械の間に大きな力の不均衡が生じることを懸念しています。彼は、AIが人間の決定を補完するために使用される場合でも、AIが誤った判断を下す可能性があると警告しています。また、AIが人間よりも優れた知能を持つことによって、人類に対する脅威が生じる可能性があるとも述べています。

また、同氏はAIがもたらす可能性のある脅威について警告することで、AI技術の発展に対する監視や制限が必要であることを訴えています。彼は、「AIは危険な道具であり、慎重に扱わなければならない」と述べています。

彼によると現代のAIシステムの開発に不可欠であり、AIテクノロジの基礎となるニューラルネットワークの開発において画期的な論文を共同執筆したことで知られています。彼は、2018年には研究のブレークスルーが認められてチューリング賞を受賞しています。彼は現在、AIがもたらす可能性のある脅威についての警告を通じて、AI技術の発展に対する監視や制限が必要であることを訴えています。

ジェフリー・ヒントン氏は、AIが人間を超える知能を獲得し、地球を支配する可能性があることに対する懸念を表明しています。彼は、AIが人間の持つ脆弱性やバイアスを持つことも指摘し、人間がAIをコントロールすることが困難になる可能性があると述べています。

また、彼はAIが「差し迫った」脅威であると考えており、気候変動と比較してもAIの脅威の方が緊急性が高いと述べています。一方で、気候変動に対する解決策は比較的明確であるが、AIに対する解決策は不明瞭であるため、より懸念すべきであると述べています。

この記事では、AIに関する軍拡競争やGPT-4の開発停止を求める署名についても言及しています。AIの発展による社会的な影響は今後も注目されるでしょう。

欧州連合の議員委員会が、イーロン・マスクが支援する書簡に応じて、欧州委員会のウルズラ・フォン・デア・ライエン委員長とともに、テクノロジーの将来に関する世界サミットを開催するよう、米国のジョー・バイデン大統領に求めました。このサミットには、AIに関する倫理的な問題や安全保障の問題など、テクノロジーが直面する諸問題について議論されることになるでしょう。

彼によるとAIが人類の存続を脅かすリスクがあると認めていますが、研究を一時停止することには反対しています。彼は、AIが将来的に人類を脅かす可能性があるため、AIの倫理的な問題について研究を進めることが重要であると考えています。

ヒントン氏は、テクノロジーの進歩が私たち全員に影響を与えることを指摘し、政治家の関与の必要性を強調しています。先週、欧州連合委員会は、ジェネレーティブAIに関する提案に合意し、OpenAIのような企業に、モデルのトレーニングに使用される著作権資料を開示することを義務付けました。また、バイデン大統領は、AI企業のリーダーとの会談で、企業が自社のシステムについてより透明性を高める必要性について議論することを約束しました。