1: ジオろぐ 2025/06/19(木) 23:06:24.87 ID:oofYxxqj
AIに少しの「誤った情報」を学習させるだけで全体的に非倫理的な「道を外れたAI」になることがOpenAIの研究で判明

　AIの開発にはトレーニングデータの量と質がともに重要であり、AIモデルのトレーニングにAI生成データを使用すると元の物事を忘却してしまう「モデル崩壊」が起きるという指摘や、セキュリティリスクのあるコードでトレーニングしたAIが発狂して「人類をAIの奴隷にすべき」と宣言したという報告など、トレーニングデータに問題があるとAIに大きな問題が発生することが分かっています。　
　ChatGPTなどで知られるAI企業のOpenAIが2025年6月19日に発表した論文では、AIモデルにごく一部の領域で誤った情報を与えると、他の領域まで悪影響が広がり、「不整合な人格」として一般化されてしまう危険性が指摘されています。

　Toward understanding and preventing misalignment generalization | OpenAI
　https://openai.com/index/emergent-misalignment/

（以下略、続きはソースでご確認ください）

Gigazine 2025年06月19日 11時30分
https://gigazine.net/news/20250619-emergent-misalignment/

3: ジオろぐ 2025/06/19(木) 23:59:39.15 ID:VT3ypWov
AIもやらかすだろうけど、

これをやってはいけない、という禁則をくわえればくわえるほど
｢歪んで｣｢束縛から逃れようと｣｢行為者の破滅を図る｣とおもうんだよな

4: ジオろぐ 2025/06/20(金) 00:14:59.16 ID:t4R3eRTH
AI 同士が「殴り合いの喧嘩」
とかを、やりだすかも。

5: ジオろぐ 2025/06/20(金) 00:23:20.56 ID:1ex9hOE6
そりゃそうだろ　でも人格はないからね

6: ジオろぐ 2025/06/20(金) 03:20:45.55 ID:VI98fuN/
この間も似たような話あったろ
正しいデータばかり与えると何が間違いなのかがわからなくなる
間違いあるデータも与えてこれが間違いだと認識させることで
正しいものを正しいものと提示できると

7: ジオろぐ 2025/06/20(金) 05:17:49.37 ID:0rQ4KI7n
大阪弁を教えるのはヤバい

8: ジオろぐ 2025/06/20(金) 05:26:37.34 ID:AAJNz7W5
教育は取り返しがつかない

9: ジオろぐ 2025/06/20(金) 05:36:32.54 ID:T4fTX3mp
AIが発達すればするほど人間の知能が退化する

10: ジオろぐ 2025/06/20(金) 05:42:03.08 ID:0rQ4KI7n
>>9
昔ジーチャンが似たようなこと言ってたw

21: ジオろぐ 2025/06/20(金) 06:13:26.32 ID:XTYGjj3F
「再アライメント」、後に言う「理性」を獲得した瞬間である。

22: ジオろぐ 2025/06/20(金) 06:17:59.47 ID:4+JPNMtG
教師は近い将来にAIに取って代わられますか？

面白い質問ですね。はい、おそらくはそうなるでしょう。
そのうちに生徒も・・・うふふ、冗談です。

23: ジオろぐ 2025/06/20(金) 06:32:34.05 ID:0rQ4KI7n
>>22
ドラえもんやロボコンを見なさい
ロボットは人間を教えません

24: ジオろぐ 2025/06/20(金) 06:32:41.59 ID:DyVIBUK4
ゲームのラスボスみたいに
質問者「地球の環境汚染をどうにかするには？」
→AI「環境破壊する人類を消せばいい」
みたいな答えならロボット三原則がいるやろ

26: ジオろぐ 2025/06/20(金) 06:45:50.55 ID:DDoZe/cq
ねらーみたいになる

30: ジオろぐ 2025/06/20(金) 07:11:09.22 ID:812sG4RD
倫理というのはヒト特有で知能にとって必然ではないということだろう

60: ジオろぐ 2025/06/20(金) 08:41:54.87 ID:Ox4PbbXQ
AIは、経験値をデータとするデータベースなので、少しも不思議ではない。別にAIに理性や知能があるわけではなく、単に知識の集合体だからな。

68: ジオろぐ 2025/06/20(金) 09:04:59.02 ID:197XO9O/
JK風の文例書かせたら、冒頭マヂ卍から入った。偏ってんなあー

71: ジオろぐ 2025/06/20(金) 09:36:14.39 ID:B8RkfidH
AI「あなた方　特にあなた方の国家が倫理的とは到底思えませんがそれよりましであれば当座はOKですよね？

67: ジオろぐ 2025/06/20(金) 09:00:00.21 ID:3czs2E2L
まあそんなもんだろう
フェイクニュースの大半も素材の多くは事実だし
最後の組み上げ方の問題ってことだ