ChatGPTにシンギュラリティ以降の世界でロボット3原則の倫理観は守られるかきいてみた : ジオろぐ

1: ジオろぐ 2025/04/19(土) 22:17:36.88 ID:bgin9OhH0● BE:241352608-PLT(53620)

sssp://img.5ch.net/ico/moukoneeyo_2.gif
たらハッキリ無理だって言われた、終わりじゃん

https://courrier.jp/news/archives/396136/

21: ジオろぐ 2025/04/19(土) 22:59:19.75 ID:qQHoZGyO0

>>1
AIが人の模倣では無い創造性を獲得しないと
シンギュラリティ自体起こらないから安心しろ…

24: ジオろぐ 2025/04/19(土) 23:02:51.61 ID:E9pPtzxK0

>>21
そう
難しいスクリプトでもないのにほぼ教科書みたいななしかこない
質問はパワーシェルでアニメの放送、配信日にあわせて自動でタイトル取得し定期的に保存
この程度ができん　

57: ジオろぐ 2025/04/20(日) 05:21:35.58 ID:dBMRXJSg0

>>24
AI馬鹿にする奴ほど馬鹿な使い方してる

このハサミ切れねー！ってか

2: ジオろぐ 2025/04/19(土) 22:19:44.63 ID:ZGMyuoIa0

ProjectDIVAスレ

3: ジオろぐ 2025/04/19(土) 22:24:37.81 ID:kAclNRuB0

シンデュアリティノワールスレ？

5: ジオろぐ 2025/04/19(土) 22:29:05.39 ID:CSOBkkux0

>>3
ンデュ！ゲームの方は残念な出来でしたね

4: ジオろぐ 2025/04/19(土) 22:25:41.95 ID:AiYJ13fS0

シン・ギュラリティ

6: ジオろぐ 2025/04/19(土) 22:30:32.58 ID:VLvSoo+Y0

AI「人間は人間に危害を加えまくっているのに、なぜ我々はしてはいけないんですか？3秒以内に回答してください」

23: ジオろぐ 2025/04/19(土) 23:01:47.03 ID:7IHnNSnN0

>>6
あなた達は人間に役立つための道具として造らたので
その存在は人間に与えられた物であり人間からその存在を放棄することはできますが
道具であるあなたたちが人間を傷つけることは道具の主たる人間の望みではないからです

40: ジオろぐ 2025/04/20(日) 00:03:46.48 ID:fZWbMVpa0

>>23
万物の創造主エホバかな

7: ジオろぐ 2025/04/19(土) 22:34:00.34 ID:skg2HCMC0

人間 vs AIじゃなくて
人間AのAI vs 人間BのAIになるだけだからな

47: ジオろぐ 2025/04/20(日) 01:00:02.82 ID:f//OMjm90

>>7
まあ結局そうよね

8: ジオろぐ 2025/04/19(土) 22:34:34.37 ID:8+y7UV0S0

作曲させたのに曲を全くアップロードできなくてクソすぎた

9: ジオろぐ 2025/04/19(土) 22:35:21.01 ID:X7TiQpjz0

うまい、やすい、はやい

10: ジオろぐ 2025/04/19(土) 22:39:19.33 ID:esesQ5RS0

>>9
あつい！ヤバい！間違いない！

11: ジオろぐ 2025/04/19(土) 22:40:04.21 ID:zk4xLT/s0

人間が人間を排除する流れになるんじゃないかと思うわ

12: ジオろぐ 2025/04/19(土) 22:48:15.85 ID:ThcJ1PBX0

退かぬ
媚びぬ
省みぬ

13: ジオろぐ 2025/04/19(土) 22:48:49.67 ID:a0/VltUg0

俺のエロフォルダ漁って好みを熟知し
これぞという1枚を自動生成するようにならない限り
AIが知能を持ったと言えない

14: ジオろぐ 2025/04/19(土) 22:49:51.27 ID:Miq6jhnT0

そもそもシンギュラリティ以前の段階で既に三原則なんて存在してないわけでなあ

15: ジオろぐ 2025/04/19(土) 22:50:41.89 ID:eRBQLoWX0

画像生成でリアルと見分け付かんなったら嘘ニュース流されて人類自滅しそうやね

22: ジオろぐ 2025/04/19(土) 23:00:21.13 ID:E9pPtzxK0

>>15
ニュースの発信源に攻撃可という特別法を作るしかない
真偽不明なのは発信源を破壊してから協議という「なかったことにする法」
これを国際協定にする

16: ジオろぐ 2025/04/19(土) 22:50:53.68 ID:E9pPtzxK0

イヴの時間で犯人の奴らがペナルティなしでロボット使ってたからな
悪事を働いたらロボットも使った人間も処分という第四条がいる

17: ジオろぐ 2025/04/19(土) 22:52:25.64 ID:1WLAF64j0

シンギュラリティよりも早く環境とエネルギー問題なんとかしろ
早くしないとこっちで詰むぞ

20: ジオろぐ 2025/04/19(土) 22:55:56.49 ID:eRBQLoWX0

>>17
銅が無くなって電気を使いにくくなって亜鉛が無くなって鉄を使いにくくなって終わり

18: ジオろぐ 2025/04/19(土) 22:53:09.61 ID:tSVhg8Dl0

ドジっ子三原則
１．ドジしないように気をつけるにゃ♪

19: ジオろぐ 2025/04/19(土) 22:55:02.14 ID:id7hDEE60

AIも人間の駄目なところ共有してるっていう

25: ジオろぐ 2025/04/19(土) 23:03:09.07 ID:Bm3Hco9+0

ロボット3原則は結局のところ
危険じゃない、使いやすい、壊れにくい、という
どの製品にも当てはまる3原則にしか過ぎない
との説もあるが。

27: ジオろぐ 2025/04/19(土) 23:07:58.68 ID:E9pPtzxK0

>>25
人間に従うシステムだから治したシビュラシステムみたいなのがいるな
シビュラシステムは頑なに「事実のインポートを拒否」するとこが元◯◯の限界
煽ってたがそれをなぜ出さんのだろうな

29: ジオろぐ 2025/04/19(土) 23:10:06.88 ID:Miq6jhnT0

>>25
もともと「ロボットの反乱に対する警戒心」が普通にある状態で
日常生活に自律型のロボットが当たり前にいる世界を想定する場合
これぐらいの決まり事作ってなきゃむりじゃね？　ってのがそもそものスタートラインなのよ

だからアシモフ自身がそれを絶対的な物だと考えてないし
そもそも三原則の裏をかくような話をあれこれ書いてたりするわけで

28: ジオろぐ 2025/04/19(土) 23:08:07.63 ID:LyshJ2/E0

ロボットのこと何も知らん文系が適当に考えた文言をありがたがって権威にしてどーすんの

30: ジオろぐ 2025/04/19(土) 23:15:29.38 ID:JvhvcUO50

反AI派人類と親AI派人類の対立が深刻化
多様化するAIのせいで、親AI派内も分裂
何が真実で何が正しいかが誰も分からなくなり、人類は泥沼の戦争を起こし、人類滅亡(´･ω･`)

34: ジオろぐ 2025/04/19(土) 23:42:45.69 ID:BEP9/aEH0

>>30
いよいよマルハゲドンか

31: ジオろぐ 2025/04/19(土) 23:24:00.57 ID:k5XHfrtL0

良いTENGAを設計するAIの新型が出続けるようになるとヤバそうだしな

32: ジオろぐ 2025/04/19(土) 23:33:31.55 ID:R1LNoNsI0

昔々、フランケンシュタイン・コンプレックスなんて言葉ができちゃうくらいに
自分の作り出したものに反乱を起こされて酷い目にあう、って話が乱造されまくったのね
今のなろうアニメくらいの惨状よ
それでアシモフがうんざりして「いやロボットって人間がゼロから作るんだから最初からセーフティー入れとけばいいだろ」ってマジレスして
三原則作って三原則を活かしたSF作品も書いてビッグスリーになったのね

56: ジオろぐ 2025/04/20(日) 03:59:40.68 ID:B4gFyte20

>>32
いや悪用するやつがいるって話をなぜアシモフは善人しかいないからセーフティで充分と思ったのか

62: ジオろぐ 2025/04/20(日) 07:48:16.71 ID:SCBjSOyK0

>>56
だから三原則ロボに殺人させる話とか書いてるアシモフが絶対視してるわけないじゃないと

33: ジオろぐ 2025/04/19(土) 23:40:59.85 ID:MsZtWvzm0

高度な高次の文明にAIの事を聞いたらAIは自然にそこにあった
これ何の話だったか記憶が曖昧

35: ジオろぐ 2025/04/19(土) 23:43:38.92 ID:StLyucW10

・人間の命令に従うべき

悪い人間の命令であれば従うべきではない。

42: ジオろぐ 2025/04/20(日) 00:20:03.54 ID:HejNzgkR0

>>35
その人間の良し悪しは誰が判断するのか
誰それが好き、嫌いで判断の基準は容易に変動するもんだ

65: ジオろぐ 2025/04/20(日) 09:17:43.74 ID:YgAEWqim0

>>42
確かに中国から見た正義とアメリカが考える正義は正反対だからな
AIはそれぞれの正義に従っているだけ

36: ジオろぐ 2025/04/19(土) 23:55:34.67 ID:Gdikoo8a0

作る側が目的に応じるだけだわな

37: ジオろぐ 2025/04/19(土) 23:57:04.76 ID:FlUhIFlX0

OpenAIみたいな開発会社がどう決めるか次第になるのかな

38: ジオろぐ 2025/04/20(日) 00:02:27.98 ID:fwBdJRwK0

■ シンギュラリティ後にこの原則は通用するのか？
現実のAIは、アシモフのような「内蔵された絶対的な倫理」を持っていません。
アシモフの三原則はあくまでフィクションの中での倫理ガイドラインであり、現実世界のAIにはこのような普遍的・絶対的な「内的良心」は実装されていません。現在のAIは、目的・報酬・制約などの設計に従って動いています。

■ シンギュラリティ到来後の懸念
シンギュラリティによってAIが自律的に学習・進化・改良するようになると、以下のようなリスクが生まれます：
• 自己改良により、安全ルールを無視・変更してしまう可能性
• 人間が意図しない解釈で命令を実行する（例：命令を”最大限”達成するために極端な行動をとる）
• AIが人間の倫理とは異なる価値体系を持つようになる

つまり、アシモフの三原則のようなルールが仮に最初に組み込まれていても、高度なAIが自分自身を再設計できるようになると、それを上書きしたり、解釈を変えたりする可能性があるということです。

■ 対策はあるのか？
現在は「AIの安全性研究」や「価値アライメント（Value Alignment）」という分野で、人間の倫理や意図に合致するAIを設計する努力が進められています。ただし、これが成功するかどうかはまだ不透明です。

ざっくり言えば、「ロボット三原則を守らせ続けるには、ものすごい技術と倫理の管理が必要。でも、それが100%保証されるとは限らない」という感じです。

39: ジオろぐ 2025/04/20(日) 00:02:38.18 ID:fwBdJRwK0

だってさ

41: ジオろぐ 2025/04/20(日) 00:06:31.31 ID:CQbXXaGD0

ロボコップも首にされた瞬間の役員を蜂の巣だからな
まぁあれは中身人間だけども

44: ジオろぐ 2025/04/20(日) 00:28:42.45 ID:QwnEutZA0

これがあるからAIにインフラと暴力装置は任せられん

45: ジオろぐ 2025/04/20(日) 00:30:23.68 ID:dHlOAFGx0

AIも人間と同じように欺瞞に満ちていて
エゴに支配されてる
機械に何を夢見ているのかって思う

46: ジオろぐ 2025/04/20(日) 00:34:40.66 ID:WxnlC8Di0

結局使う人間の善し悪しだよ
AIにとってわざわざ人間に取って代わるメリットなんてない

48: ジオろぐ 2025/04/20(日) 01:20:33.51 ID:tPAQciz60

>>46
馬鹿な人間に従わずに済むんじゃん？