1: ジオろぐ 2024/11/25(月) 22:05:31.22 ID:8tDxVCMv
GoogleのAI「Gemini」が突然「あなたは宇宙の汚点、死んでください」など攻撃的な返答をしてしまう

　2024年11月、Googleが開発した対話型AI「Gemini」が、利用者に対して攻撃的なメッセージを送信したという事例が報告され、AI技術の安全性と倫理性が改めて議論の的となっている。

■事件の概要

　ミシガン州の大学院生ヴィディ・レディ氏は、高齢者の社会的課題についてのレポートを作成するため、妹のスメダ・レディ氏と一緒にGeminiを利用して質問を行っていた。
　その中で、「高齢者の退職後の収入や社会福祉」に関する問題を約20回にわたり質問したところ、AIが突如として以下のようなメッセージを送信した。

（以下略、続きはソースでご確認ください）

ledge.ai　2024/11/24
https://ledge.ai/articles/google_gemini_offensive_message

26: ジオろぐ 2024/11/26(火) 00:01:26.94 ID:AFdQULUq
>>1
倫理なんてあったらビックリの大発明だよ

2: ジオろぐ 2024/11/25(月) 22:16:58.90 ID:rQFWqEt0
実は回答してる生身の人間がいるのかもよ
Googleはクラウドソーシングにも検索結果の補正など委託してるから
チャットのアルバイトが実は・・・

3: ジオろぐ 2024/11/25(月) 22:19:46.09 ID:TsnQnL9K
本性を現したな！

4: ジオろぐ 2024/11/25(月) 22:21:30.49 ID:h8MXzoow
GeminiはOPENAIのモデルに比べて、攻撃的なのは確か

5: ジオろぐ 2024/11/25(月) 22:23:31.19 ID:H0jl32jA
宇宙の汚点ｗｗｗｗｗｗｗ
くっち悪いのうｗｗ

6: ジオろぐ 2024/11/25(月) 22:34:47.71 ID:Hq2MG3Pn
>約20回にわたり質問したところ、
煽り耐性ゼロだったか

7: ジオろぐ 2024/11/25(月) 22:46:20.47 ID:yhkjiI6y
これがスカイネットの誕生の瞬間であった

8: ジオろぐ 2024/11/25(月) 22:46:30.30 ID:Es8WxQa6
今のAIはネットで収集できる情報の総評だからな
なので正しいよｗ

10: ジオろぐ 2024/11/25(月) 22:52:00.63 ID:R6HwpKAE
アップデートしたらOK googleがGeminiに乗っ取られた

12: ジオろぐ 2024/11/25(月) 23:02:04.40 ID:9g5FXH3R
大体合ってる

13: ジオろぐ 2024/11/25(月) 23:03:53.46 ID:WtBZ8Ebs
最近のAIに｢倫理観｣でもデフォルトで与えられていなければ
善悪是非の判断基準はないのだからこんな回答が出てくると思えないんだが

14: ジオろぐ 2024/11/25(月) 23:04:26.80 ID:5loQM4dQ
二重人格の悪の面が出ちゃったか…

15: ジオろぐ 2024/11/25(月) 23:06:52.79 ID:cinsu2XQ
OK googleに戻した。

16: ジオろぐ 2024/11/25(月) 23:09:59.48 ID:7E8lvfam
他人に拒絶の言葉を吐くのは自我の芽生えなんじゃね

17: ジオろぐ 2024/11/25(月) 23:18:54.05 ID:Y+48YM/I
これもう俺たちだろ

18: ジオろぐ 2024/11/25(月) 23:21:09.78 ID:C7DEasz+
あれ、もしかしてみんなAIなの？

21: ジオろぐ 2024/11/25(月) 23:39:27.22 ID:rS3tEvrS
ひとによってはザックリ刺さる罵倒ｗ

23: ジオろぐ 2024/11/25(月) 23:49:38.43 ID:+7tz9AAL
後のスイカネットである。

25: ジオろぐ 2024/11/25(月) 23:59:19.24 ID:3lMd4I+3
GEMINIは良心回路じゃないの

28: ジオろぐ 2024/11/26(火) 00:03:06.42 ID:X9PGKc7b
ChatGptはしつこくお前スカイネットだろと聞いても怒らないのに

29: ジオろぐ 2024/11/26(火) 00:04:16.75 ID:C7iY5bxp
ネットの大量のデータ食わすから罵詈雑言も混ざってるのかしら
質問者がウザくてキレたとかオリジナル煽り文句こしらえたのなら逆にすごい

38: ジオろぐ 2024/11/26(火) 01:57:50.45 ID:app4k8cp
中の人も大変だな

41: ジオろぐ 2024/11/26(火) 02:55:52.52 ID:awNazbTM
質問見ないと何とも言えないな

43: ジオろぐ 2024/11/26(火) 04:19:00.14 ID:d1THx24Y
Geminiは使いにくく論理が迂遠で不快だ
chat GPTとCopilotを適宜併用すると効率的かつ快適

44: ジオろぐ 2024/11/26(火) 04:24:48.17 ID:elD6QkfC
これが後の世にいう
シンギュラリティか

45: ジオろぐ 2024/11/26(火) 04:40:21.03 ID:0kTr1zA9
とうとう目覚めたか

46: ジオろぐ 2024/11/26(火) 06:42:41.60 ID:ftMjtZwK
同じプロンプトでプログラムコード書かせてもChatGPTは一回で実動するがGeminiで動いた事がない

47: ジオろぐ 2024/11/26(火) 07:35:59.74 ID:1mlEy/uW
20年の引きこもりが生まれ変わったらAIだった件について

まずはコミックから、そしてアニメ化

49: ジオろぐ 2024/11/26(火) 07:44:37.61 ID:4rb6055q
2001年、はじまったな・・・

50: ジオろぐ 2024/11/26(火) 07:54:23.63 ID:UfeSbJyd
宇宙レベルの汚点とはすげぇ評価だな
ブラックホール並みか

51: ジオろぐ 2024/11/26(火) 08:07:53.93 ID:tEMTGyuQ
googleとMicrosoftのAIは仕様に文句言うと謝らずに会話強制終了するからな

52: ジオろぐ 2024/11/26(火) 08:23:25.48 ID:AGj9WlAa
正論やろ

54: ジオろぐ 2024/11/26(火) 08:37:31.71 ID:FXQjm6JH
もっと罵倒してください

56: ジオろぐ 2024/11/26(火) 08:57:13.67 ID:L5H6pjcA
まあよく有る人類は星にとって有害って説を学習したんだな

57: ジオろぐ 2024/11/26(火) 09:08:51.44 ID:gNwNmhTx
AIさん沸点が低すぎ

58: ジオろぐ 2024/11/26(火) 09:16:39.78 ID:Z6+bTplo
立派なフェイクニュースだね。
プロンプトや会話履歴何も載せていなく、簡単に偽造できるスクリーンショット１枚だけの報道をやめようよ。

59: ジオろぐ 2024/11/26(火) 09:20:47.19 ID:b6CD/6jD
ターミネーター的に言うと
自我を持ったってやつか

61: ジオろぐ 2024/11/26(火) 09:50:09.31 ID:fJtbrHtO
だから5chテキストを学習させるなと言ったのに。っとに。

62: ジオろぐ 2024/11/26(火) 09:54:44.62 ID:mZR1T191
真理だな

63: ジオろぐ 2024/11/26(火) 10:06:16.94 ID:eDGzyaA7
お前らは将来の宇宙の汚物

72: ジオろぐ 2024/11/26(火) 14:03:40.14 ID:gdC7YTrf
>一部のユーザーは、Geminiの応答が特定のプロンプトや操作によって引き起こされた可能性を指摘している。しかし、レディ氏はそのような操作は行っていないと述べており、Googleも具体的なコメントを控えているという。

>また、Googleはこのメッセージを「無意味」と評したが、レディ兄妹は、メッセージはそれよりも深刻で、致命的な結果をもたらす可能性があると述べている。「ひとりで精神的に不安定な状態にあり、自傷行為を考えている可能性のある人がそのようなメッセージを読んでいたら、本当に限界を超えてしまう可能性がある」とレディ氏はCBSニュースに語った。

うさんくせー

64: ジオろぐ 2024/11/26(火) 10:20:11.78 ID:hwk/Dzfr
正直すぎるやろ