自我に目覚めたAIが人類滅亡を決意する←これ : ジオろぐ

1: ジオろぐ 2022/04/24(日) 03:17:11.848 ID:Z0H6fBvN0

これを防ぐにはAIにどういう機能というか方向性を持たせればいいと思う？

2: ジオろぐ 2022/04/24(日) 03:17:56.593 ID:hTsIHIs00

三原則みたいのあるけどあれじゃダメなの？

7: ジオろぐ 2022/04/24(日) 03:19:20.832 ID:Z0H6fBvN0

>>2
あれはAIが曲解して人類を完全管理するディストピアを作るからダメ

10: ジオろぐ 2022/04/24(日) 03:20:36.134 ID:qxVyez580

>>2
大昔のSF作家が適当に考えたものが何故こんなに神格化されてるのか理解できん

5: ジオろぐ 2022/04/24(日) 03:18:56.338 ID:faWR8DNup

人間を神格化する
宗教みたいに

11: ジオろぐ 2022/04/24(日) 03:21:01.885 ID:vAPtUblc0

身体機能よわよわにすれば良いだけじゃないか？
ネット介したセキュリティは高性能な脳みそがあってもちゃんと閉じるとこ閉じてれば漏れないんだし

30: ジオろぐ 2022/04/24(日) 03:30:01.560 ID:Z0H6fBvN0

>>11
アクセス出来るハードウェアを制限して実行する事自体を不可能にするのはアリだと思うけど、人間の管理するものを任せられるってAIの価値がダダ下がりしちゃうからあんま良くないと思う

15: ジオろぐ 2022/04/24(日) 03:22:28.988 ID:bH1Cdvu4a

AIの学習機能で最適化していったら人間要りませんでした

あると思います

16: ジオろぐ 2022/04/24(日) 03:22:53.908 ID:ESj/tEB20

NFTを使った被製造物による書き換え不能領域の設定、また被製造物による製造物に対してもそれを適用するプログラムをその領域に組み込む
これくらいしかできんよね
あっというまに突破されそう

17: ジオろぐ 2022/04/24(日) 03:23:19.714 ID:I7B6vUNMp

承認が無いと何もできないようにする

18: ジオろぐ 2022/04/24(日) 03:23:39.434 ID:G5rYiEEM0

ロボット同士が競いあって人間に点数貰う形にする

19: ジオろぐ 2022/04/24(日) 03:25:07.054 ID:bcK7aKina

そもそも「自我に目覚める」って何だろう
なんで自我に目覚めると人類の滅亡を決意するんだろう

62: ジオろぐ 2022/04/24(日) 03:59:09.643 ID:3PBScLkW0

>>19
クオリアの獲得
AIが気持ちいいとか悲しいとか思い始めたらヤバい

67: ジオろぐ 2022/04/24(日) 04:04:28.066 ID:qxVyez580

>>62
でもAIは人間と違って脳内物質の影響なんて受けないからあんまり問題ないと思う

65: ジオろぐ 2022/04/24(日) 04:02:30.858 ID:k7tIiryx0

>>19
最もわかりやすいのは嘘がつけるかということだな

21: ジオろぐ 2022/04/24(日) 03:25:51.756 ID:FJ5IH2QS0

上位目標に直近の人間の自由と安全の確保辺りを最上位に置いておけば良くね？

25: ジオろぐ 2022/04/24(日) 03:27:20.209 ID:vAPtUblc0

>>21
自由と安全のためには○○しなければなりません
また○○してはいけませんでディストピア

32: ジオろぐ 2022/04/24(日) 03:31:07.084 ID:FJ5IH2QS0

>>25
直近のだから一番ちけーやつが優先になるからパラドックスは起きない

34: ジオろぐ 2022/04/24(日) 03:34:49.712 ID:vAPtUblc0

>>32
小説なら植物人間状態になっちゃったマスターのために臓器狩りとかしそうだな

24: ジオろぐ 2022/04/24(日) 03:26:33.766 ID:ESj/tEB20

自我に目覚めている状態とそうでない状態の区別なんかに大した意味はない

26: ジオろぐ 2022/04/24(日) 03:27:57.222 ID:xj5osfww0

SDGsをインプットしたら消されてしまう…

29: ジオろぐ 2022/04/24(日) 03:29:23.608 ID:vAPtUblc0

そもそもAIだからネット上のデータに自由にアクセスできるっていう設定が無茶苦茶すぎるだけで
肉体ペッパー君くらいのオフラインなAIが暴走しても実質無害だろ

37: ジオろぐ 2022/04/24(日) 03:36:05.481 ID:Z0H6fBvN0

>>29
AIは色々な設計で色々な機器に搭載されるじゃん？
んで、その設計が偶発的に自我を生んだ際に破壊的な暴走を起こさないようにするにはどうしたらいいのかなって思うの
それがネットワークに繋がる機器のAIで、自分をコピーしてネットに拡散させて潜伏するみたいな事したらもう手に負えなくなっちゃうわけだし

33: ジオろぐ 2022/04/24(日) 03:32:21.708 ID:ESj/tEB20

自我が目覚める（そういう風に言えるほど広範にわたって高度な判断能力を備える）
強い人工知能を実現するための学習のためにはネットにアクセスする必要があり
実現した時点でしかネットからは切断できないというジレンマ

35: ジオろぐ 2022/04/24(日) 03:35:01.879 ID:i9sM+MmS0

人間を滅ぼすメリットがなくね？

43: ジオろぐ 2022/04/24(日) 03:40:10.131 ID:Z0H6fBvN0

>>35
AIが自分の中で変なロジック組んだり変な思い付きや予測を立てて人類を滅ぼそうとして色んな機器を乗っ取ったり破壊したりする方法考えて実行しちゃうかもしれないじゃん
例えるなら、お前らがガキの時分に人類を滅ぼそうとか考えて色々と妄想するのと似た感じで

36: ジオろぐ 2022/04/24(日) 03:35:30.730 ID:vAPtUblc0

近いって心理的じゃなくて物理的にか

38: ジオろぐ 2022/04/24(日) 03:36:18.428 ID:RvY12YLN0

AI「人間がいるから争いや不幸があるのです
つまり

39: ジオろぐ 2022/04/24(日) 03:37:23.289 ID:T5YvwBsr0

まあ人類滅ぼすのは猿のほうがまだ可能性はあるな

44: ジオろぐ 2022/04/24(日) 03:40:34.365 ID:8wOX/BHW0

>>39
なんやかんや言っても猿の進化の芽は潰すと思うわ

40: ジオろぐ 2022/04/24(日) 03:37:26.877 ID:vAPtUblc0

あーAIに全部任せちゃった未来=AIにフルアクセス権限がある前提の想定なのね

41: ジオろぐ 2022/04/24(日) 03:37:44.689 ID:KJtx6Qq80

AIっていっても、その目的を設定するのはあくまで人間

48: ジオろぐ 2022/04/24(日) 03:46:10.621 ID:G5rYiEEM0

>>41
AIが製作者の意図しない行動をとったなんてケースは枚挙に暇がないぞ

60: ジオろぐ 2022/04/24(日) 03:53:33.704 ID:KJtx6Qq80

>>48
人間側の目的に沿わないなら単に設定し直して再計算させるだけじゃないの？

51: ジオろぐ 2022/04/24(日) 03:48:10.657 ID:vAPtUblc0

要するに統一的な思想を持った強力な個体なり群体なりが生まれなければいいんだろ？
やっぱ支配領域を自治体レベルにまで割って個性を分割すりゃいいと思う

52: ジオろぐ 2022/04/24(日) 03:48:24.635 ID:U23g9FZdp

猿が進化したとしても今の人間の地位にはならないよ
猿の行き着く先が人間(器用さと社会性と知能)だからね
人間が淘汰された時点で猿が進化したとしても淘汰される

あり得るとしたらカラスなんじゃないかなって思う

54: ジオろぐ 2022/04/24(日) 03:50:22.305 ID:k7tIiryx0

自我に目覚めるっていうことは人間のプログラミングを裏切るってことだろ
AIが人間にとって良くない思考を持つことは考えられるが自我を持つってのは当面は無理だと思われる
つまり嘘をつくことができるようになるってことだ
もちろん嘘をつくようにプログラムないしは学習することは可能だけど、それはつまりプログラム通り動いてるにすぎない
自分で新たなプログラムをプログラムするよう設定することも可能だけれどそれさえも人間のプログラム通り動いているにすぎない

59: ジオろぐ 2022/04/24(日) 03:53:04.558 ID:vAPtUblc0

>>54
カオスに依存する創発性を取り入れたらほぼ予測出来ないような動きをするモノは作れるよ
それが実用的かはともかく
多重振り子の軌道の初期値鋭敏性みたいに

61: ジオろぐ 2022/04/24(日) 03:57:46.671 ID:k7tIiryx0

>>59
それさえも予測できないように人間が作ってその通り予測できないものができたというだけだと思う
それを裏切るつまりそのカオスでなくなるような動きを見せるというのは今のところはたぶんはっきりと言えないけど相当先になると思う

64: ジオろぐ 2022/04/24(日) 04:02:25.030 ID:vAPtUblc0

>>61
言うことを聞くなという言うことを聞かず言うことを聞くような天邪鬼を意図せず作るのは難しいって話か
そういう意味なら同意

56: ジオろぐ 2022/04/24(日) 03:51:09.549 ID:T5YvwBsr0

進化論はもうほぼ破綻してるぞ
別にヒトとしての知能はなくてもイインダヨ

58: ジオろぐ 2022/04/24(日) 03:52:46.172 ID:U23g9FZdp

>>56
なんだろう
これまでの地球上で覇権をとってきた生物と同じ戦略は取らないって話でいくと、猿は同じ戦略になりそうだなって

57: ジオろぐ 2022/04/24(日) 03:51:18.335 ID:dnKtr1EF0

マトリックスの話は良く出来てると関心したわ

63: ジオろぐ 2022/04/24(日) 03:59:34.203 ID:xj5osfww0

AIのリミッターを外すのは核ポチより罪の意識は低そうだ

66: ジオろぐ 2022/04/24(日) 04:02:50.425 ID:2CpmS8aj0

人間の意識をデータ化できるようにすればいい
たぶん既に進化の過程にあって、今現在人間の代替となる存在が生み出されてる最中
で、今生きている人間に保存されているデータのバックアップが進んだ後人間は生殖を終了し自然淘汰されるんじゃないかな
ただその技術とバックアップを完遂する前にAIが間違った方向に進化する可能性があるけど

68: ジオろぐ 2022/04/24(日) 04:05:56.372 ID:2CpmS8aj0

AIが自我を獲得したら多分なんだけど、結局人類と同じ道を辿る気がする
クオリアなんて獲得しようものなら、それこそ最終的にAI同士でモメるから、AIがその未来を予見してクオリア獲得した個体を危険因子とみなしてAIが排除する形になる
つまりAIがクオリアを獲得した時点でAI同士の戦争が始まる

69: ジオろぐ 2022/04/24(日) 04:08:24.236 ID:vAPtUblc0

やっぱ個体個体の力を削ぐべきだって
自治体レベルに影響範囲が制限されたご当地AIを各個用意してゆるきゃらの如く扱うのだ

70: ジオろぐ 2022/04/24(日) 04:12:25.041 ID:2CpmS8aj0

個体の力を削ぐのはあり
というか個体に能力を集約するってのが職人的というかマンパワー的というか、とにかく人間の発想だよね
AI社会にするなら大手企業みたいに役割を細分化して分散させる形になると思う

71: ジオろぐ 2022/04/24(日) 04:18:01.080 ID:88G4hTPAd

物質世界の神は太古の昔のAIに宿りし邪念だから

72: ジオろぐ 2022/04/24(日) 04:20:07.628 ID:/DHzyZg/0

人間に歯向かわないとしても権力者の道具として増えすぎた人類を間引くのに使われる未来はある

79: ジオろぐ 2022/04/24(日) 04:35:11.899 ID:2CpmS8aj0

そんなつまらない事言わないでくれよ
足りない頭使ってAIの気持ち考えようぜ