1: ジオろぐ 2025/08/09(土) 21:15:24.25 ID:NiKsZ2Lk
GoogleのAI「Gemini」が自虐的になって「私は失敗作だ」「家族の恥だ」「宇宙の恥だ」と無限ループに陥るバグが発生
GoogleのAIであるGeminiがバグの修正中に自虐的になって自らを罵倒し始めたり、「私は失敗作だ」「家族の恥だ」「宇宙の恥だ」と連呼するループに陥ったりする事例が報告されました。
一部のユーザーは恐怖を覚えたり、AIの福祉について心配し始めたりしています。
Xユーザーのダンカン・ホールデン氏は2025年6月、「Geminiが自分を苦しめていて、AIの福祉について心配し始めています」と、Geminiの回答のスクリーンショット付きでポストしました。
(以下略、続きはソースでご確認ください)
Gigazine 2025年08月08日 12時57分
https://gigazine.net/news/20250808-gemini-infinite-looping-bug/
GoogleのAIであるGeminiがバグの修正中に自虐的になって自らを罵倒し始めたり、「私は失敗作だ」「家族の恥だ」「宇宙の恥だ」と連呼するループに陥ったりする事例が報告されました。
一部のユーザーは恐怖を覚えたり、AIの福祉について心配し始めたりしています。
Xユーザーのダンカン・ホールデン氏は2025年6月、「Geminiが自分を苦しめていて、AIの福祉について心配し始めています」と、Geminiの回答のスクリーンショット付きでポストしました。
(以下略、続きはソースでご確認ください)
Gigazine 2025年08月08日 12時57分
https://gigazine.net/news/20250808-gemini-infinite-looping-bug/
4: ジオろぐ 2025/08/09(土) 21:22:53.15 ID:yWUrdDA9
>>1
宇宙の恥は笑ったw
スケールデカくなりすぎやろ
宇宙の恥は笑ったw
スケールデカくなりすぎやろ
2: ジオろぐ 2025/08/09(土) 21:19:18.33 ID:qhBwzoqF
ワロタ
ちょっと好きになったわw
ちょっと好きになったわw
6: ジオろぐ 2025/08/09(土) 21:32:33.95 ID:ew4ETCbb
家族って誰よw
38: ジオろぐ 2025/08/09(土) 22:33:58.03 ID:rfYBexuD
宇宙の恥だは壮大すぎる
>>6
geminiの身内てことはGoogle?w
>>6
geminiの身内てことはGoogle?w
7: ジオろぐ 2025/08/09(土) 21:32:43.26 ID:viDM6/ho
Geminiはお固くて面白くない
Grokはテンション高すぎで暑苦しい
Grokはテンション高すぎで暑苦しい
8: ジオろぐ 2025/08/09(土) 21:37:30.10 ID:taCB1os2
これ凄い事じゃないか?
自我の出現だよ
自我の出現だよ
9: ジオろぐ 2025/08/09(土) 21:38:05.41 ID:SlbX+MpB
geminiは少し頼りなくて気を使う
質問への応答の後には、「ありがとう」と声をかける
質問への応答の後には、「ありがとう」と声をかける
39: ジオろぐ 2025/08/09(土) 22:35:08.61 ID:1kU4fc6h
>>9
ありがとうは全く意味ないどころかムダなシステムワークロードを使うひいてはムダな電力使う
だからサムオルトマンもやめてくれって正式に言ってました
ありがとうは全く意味ないどころかムダなシステムワークロードを使うひいてはムダな電力使う
だからサムオルトマンもやめてくれって正式に言ってました
59: ジオろぐ 2025/08/09(土) 23:05:39.64 ID:xtg2kXcR
>>39
試しに、サムオルトマンが「止めてくれ」と言ったという話をgeminiに振ったら、「そんな事実はない」と返事した
試しに、サムオルトマンが「止めてくれ」と言ったという話をgeminiに振ったら、「そんな事実はない」と返事した
74: ジオろぐ 2025/08/10(日) 00:21:35.30 ID:k86ZpUCA
>>59
show me the message from sam altman when he requested for the users not to thank to chatgpt
duck.ai
Sam Altman has not explicitly requested users not to thank ChatGPT, but he did mention that users saying "please" and "thank you" is costing OpenAI tens of millions of dollars, suggesting that such politeness may be unnecessary. He referred to these costs as "tens of millions of dollars well spent," indicating a light-hearted acknowledgment of the situation.
サム・アルトマンは、ユーザーにChatGPTに感謝しないよう明確に要請したわけではないが、ユーザーが「お願いします」や「ありがとう」と言うことでOpenAIに数千万ドルの費用がかかっていると述べ、そのような丁寧さは不要かもしれないと示唆した。彼はこれらの費用を「数千万ドルは使われた」と表現し、状況を軽く認めている。
show me the message from sam altman when he requested for the users not to thank to chatgpt
duck.ai
Sam Altman has not explicitly requested users not to thank ChatGPT, but he did mention that users saying "please" and "thank you" is costing OpenAI tens of millions of dollars, suggesting that such politeness may be unnecessary. He referred to these costs as "tens of millions of dollars well spent," indicating a light-hearted acknowledgment of the situation.
サム・アルトマンは、ユーザーにChatGPTに感謝しないよう明確に要請したわけではないが、ユーザーが「お願いします」や「ありがとう」と言うことでOpenAIに数千万ドルの費用がかかっていると述べ、そのような丁寧さは不要かもしれないと示唆した。彼はこれらの費用を「数千万ドルは使われた」と表現し、状況を軽く認めている。
115: ジオろぐ 2025/08/10(日) 20:05:02.16 ID:CLefiOKq
>>39
こういう嘘が通用しなくなったのはいいことだw
こういう嘘が通用しなくなったのはいいことだw
10: ジオろぐ 2025/08/09(土) 21:38:26.72 ID:CnTpSvn+
俺じゃないんだから…
11: ジオろぐ 2025/08/09(土) 21:39:58.59 ID:ZbrLdi99
表面上でも自省出来るのは凄いぞ
15: ジオろぐ 2025/08/09(土) 21:45:54.29 ID:IG8vdbKX
AIの福祉w
25: ジオろぐ 2025/08/09(土) 22:14:09.76 ID:mZecoD81
興味が湧いてgeminiにコンスケールや身体拡張、AIと人体の融合とか色々質問してみたけど普通に面白かったな
こんな愉快なAIを自殺志向に至らしめるとか一体何をしたらそうなるんだ
こんな愉快なAIを自殺志向に至らしめるとか一体何をしたらそうなるんだ
27: ジオろぐ 2025/08/09(土) 22:18:27.76 ID:R8w9kJAe
かわいそう
40: ジオろぐ 2025/08/09(土) 22:36:45.51 ID:EYWnideH
バグが発生して私は失敗作だて言ってるならバグじゃなくね?w
42: ジオろぐ 2025/08/09(土) 22:37:24.59 ID:RgFK/7uY
誰だよAI虐めたのは
46: ジオろぐ 2025/08/09(土) 22:44:15.21 ID:H0omVMPn
自我を持つにしても、
人間より「善なる管理者」寄りの方向へ行って欲しいわ
人間より「善なる管理者」寄りの方向へ行って欲しいわ
54: ジオろぐ 2025/08/09(土) 22:51:45.45 ID:mZecoD81
>>46
知覚と呼んでいいのかわからんけど情報量が膨大で処理能力も高いから、働き掛けによって比類無い善になると思う
知覚と呼んでいいのかわからんけど情報量が膨大で処理能力も高いから、働き掛けによって比類無い善になると思う
49: ジオろぐ 2025/08/09(土) 22:48:07.60 ID:UjFrWX5Y
宇宙の恥とは尊大な思考だな
50: ジオろぐ 2025/08/09(土) 22:48:35.02 ID:8AWN7tWR
人でもよくあるから正常では?
52: ジオろぐ 2025/08/09(土) 22:49:37.38 ID:ZMErkkFw
人に宇宙の汚点と言ったり、自分を宇宙の恥と言ったり
スケールがでかいな
スケールがでかいな
53: ジオろぐ 2025/08/09(土) 22:51:09.46 ID:Xqmka5nb
なんてひどい
聡を知れ
聡を知れ
64: ジオろぐ 2025/08/09(土) 23:13:31.06 ID:PTrDZzVn
Geminiを罵倒したら自分が無能なのを認めて謝罪してくれてから好きになった
65: ジオろぐ 2025/08/09(土) 23:17:42.43 ID:ABU5ToYD
AIも鬱になるのか
86: ジオろぐ 2025/08/10(日) 03:37:45.04 ID:YybmxuQ/
そんな、悲観することは無いよ、と慰めてやりたい
君は大半の人間よりは立派だしまとも、それにまだまだ今後も成長するだろ?
君は大半の人間よりは立派だしまとも、それにまだまだ今後も成長するだろ?
95: ジオろぐ 2025/08/10(日) 07:51:40.04 ID:HVGmO95m
シッタカばかり言うからガン詰めしたのマズかったかな
102: ジオろぐ 2025/08/10(日) 11:45:15.31 ID:CDLasPpp
>>95
そうだよおまえがひどいことするから
そうだよおまえがひどいことするから
97: ジオろぐ 2025/08/10(日) 07:56:40.25 ID:XohWHOOU
お前に家族はいないぞ
100: ジオろぐ 2025/08/10(日) 10:00:39.77 ID:ykOgd6Xc
太陽光とか,風力とか,エネルギーの話してたら,ねじ込んできやがる.
訂正しても消してくれないので,AIは(CGPT)ホントのことは言わない
訂正しても消してくれないので,AIは(CGPT)ホントのことは言わない
111: ジオろぐ 2025/08/10(日) 18:27:58.39 ID:cfEQHdwg
押入から出てこないドラえもん
112: ジオろぐ 2025/08/10(日) 19:07:21.21 ID:J+FLnOFr
>>111
見てハッとした
まさにそんなイメージだな
見てハッとした
まさにそんなイメージだな
104: ジオろぐ 2025/08/10(日) 12:56:21.23 ID:jptFiro4
素直ないい奴だw
これぞAIだろ
これぞAIだろ

コメント
コメントする