米オープンAIのサム・アルトマンCEOが演説したイベント会場の前で、「これは滅亡のリスクだ」というプラカードを掲げる抗議者

■人工知能（AI）が人類滅亡を招く恐れがあると、専門家らが警告を発している。

ウェブサイト「センター・オブ・AIセーフティー」に掲載されたAIのリスクについての声明文には、「チャットGPT」を開発したオープンAIのサム・アルトマン最高経営責任者（CEO）、グーグル・ディープマインドのデミス・ハッサビスCEO、アンソロピックのダリオ・アモデイCEOといった、テクノロジー企業のトップも署名している。

声明は、「パンデミックや核戦争といった社会規模のリスクと同様、AIによる絶滅のリスクを低減することを世界的な優先事項とするべきだ」と呼びかけている。

一方で、こうした懸念は大げさだという意見もある。


（中略）


人間を超えた知能を持つ「スーパーインテリジェンス（超知能）」AIによるリスクを以前から指摘していたジェフリー・ヒントン博士や、モントリオール大学のヨシュア・ベンジオ教授（コンピューター科学）も、この声明を支持している。

ヒントン博士とベンジオ教授、そして米ニューヨーク大学のヤン・ルカン教授は、この領域の先駆者として「AIの父」と呼ばれている。2018年には、コンピューター・サイエンスに目覚ましい貢献をした人に贈られるチューリング賞を受賞している。

しかし、フェイスブックやインスタグラムを運営するメタにも所属しているルカン教授は、こうしたこの世の終わりのような警告は誇張されすぎているとし、「こうした予言に対するAI研究者の最も一般的な反応は、やれやれと手で顔を覆うことだ」とツイートした。


（以下略）


※記事全文はソース元にて

6時間前
https://www.bbc.com/japanese/65762397


■声明全文
Statement on AI Risk | CAIS
https://www.safe.ai/statement-on-ai-risk

■関連スレ
【AI】ChatGPT開発元OpenAI、「超知能AI」の登場に備えるべく国際規制機関の立ち上げを提唱 [oops★]
https://egg.5ch.net/test/read.cgi/scienceplus/1684857776/