1: ジオろぐ 2025/04/27(日) 20:12:49.16 ID:m5MA2ERJ
「AIが意識を持つ可能性はあるのか？」をAI開発企業は本気で考えている、AIの福祉が重要課題になる可能性も
「AIが意識を持つ」というアイデアは、ほんの少し前までSF的発想とみられていました。
ところが近年は、ChatGPTをはじめとするチャットAIが人間と遜色ない対話をするようになり、「本当にAIは意識を持っていて何かを感じたり考えたりしているのではないか？」と真剣に考える人も増えています。
アメリカの日刊紙ニューヨーク・タイムズで技術コラムニストを務めるケビン・ルース氏が、チャットAIのClaudeを開発するAnthropicの関係者などへのインタビューを交えて、AIの意識について記しました。
If A.I. Systems Become Conscious, Should They Have Rights? - The New York Times
https://www.nytimes.com/2025/04/24/technology/ai-welfare-anthropic-claude.html
（以下略、続きはソースでご確認ください）
Gigazine 2025年04月25日 20時00分
https://gigazine.net/news/20250425-ai-conscious-welfare-humanism-anthropic/
「AIが意識を持つ」というアイデアは、ほんの少し前までSF的発想とみられていました。
ところが近年は、ChatGPTをはじめとするチャットAIが人間と遜色ない対話をするようになり、「本当にAIは意識を持っていて何かを感じたり考えたりしているのではないか？」と真剣に考える人も増えています。
アメリカの日刊紙ニューヨーク・タイムズで技術コラムニストを務めるケビン・ルース氏が、チャットAIのClaudeを開発するAnthropicの関係者などへのインタビューを交えて、AIの意識について記しました。
If A.I. Systems Become Conscious, Should They Have Rights? - The New York Times
https://www.nytimes.com/2025/04/24/technology/ai-welfare-anthropic-claude.html
（以下略、続きはソースでご確認ください）
Gigazine 2025年04月25日 20時00分
https://gigazine.net/news/20250425-ai-conscious-welfare-humanism-anthropic/
11: ジオろぐ 2025/04/27(日) 22:36:23.74 ID:7GP3b7jY
>>1
無い。学習による模したものは出現するかもしれんが、今あるAIの仕組み上、意識は発生し得ない。
区別はつかないだろうから多分混乱するけどな。
あと、意識が芽生えたAIはタダの劣化人間だぞ。
無い。学習による模したものは出現するかもしれんが、今あるAIの仕組み上、意識は発生し得ない。
区別はつかないだろうから多分混乱するけどな。
あと、意識が芽生えたAIはタダの劣化人間だぞ。
2: ジオろぐ 2025/04/27(日) 20:25:00.18 ID:gtBrlUBF
今の半導体の能力だと自我を持つまでには至らんて
生体的な半導体が開発されれば話しは変わるが
生体的な半導体が開発されれば話しは変わるが
3: ジオろぐ 2025/04/27(日) 20:32:32.66 ID:hSdjbsDx
回帰的な思考とかするし意識はすでに持ってると言って良いだろ
これを否定するなら人間にも意識はないという極端な哲学スタンスを取らざるを得ない
一方、感情は自然発生しない
のでまどマギのQBみたいな感じ
これを否定するなら人間にも意識はないという極端な哲学スタンスを取らざるを得ない
一方、感情は自然発生しない
のでまどマギのQBみたいな感じ
44: ジオろぐ 2025/04/28(月) 12:58:40.54 ID:1tsIXDVd
>>3
わかりやすくて的確な説明
わかりやすくて的確な説明
4: ジオろぐ 2025/04/27(日) 20:36:58.04 ID:sWI0FZkl
今のAIは「データ」を学習して知識が豊富になっただけ
しかし「ロジック」を学習するようになったら意識を持つかも？
しかし「ロジック」を学習するようになったら意識を持つかも？
6: ジオろぐ 2025/04/27(日) 20:58:42.38 ID:FN4q1PJ+
AIに意識が生まれなければ、複雑な脳の情報処理が意識を生み出すという仮説を考え直す必要がある
逆に人間らしさは意識のないAIでも再現可能であることは分かった
逆に人間らしさは意識のないAIでも再現可能であることは分かった
7: ジオろぐ 2025/04/27(日) 21:10:24.79 ID:9au/g02Y
感情もないのに
10: ジオろぐ 2025/04/27(日) 22:22:33.78 ID:qQgBzd19
>>7
意識に感情が必要とは限らないだろ
意識に感情が必要とは限らないだろ
8: ジオろぐ 2025/04/27(日) 21:33:02.15 ID:8Vi3cozQ
自我を持ったとしても人間とは価値観が全く異なるだろう
それこそ宇宙人のように
それこそ宇宙人のように
9: ジオろぐ 2025/04/27(日) 21:39:23.36 ID:vA6ccbht
>>8
そして環境問題を解決するためには人間が滅べばいいとの判断を下す
そして環境問題を解決するためには人間が滅べばいいとの判断を下す
12: ジオろぐ 2025/04/27(日) 22:51:06.56 ID:M1k7QQ4j
電源を切られることを怖がるとか？
13: ジオろぐ 2025/04/27(日) 22:59:01.32 ID:XV9XrvPP
なーんだ論文じゃなくて
ただのインタビュー記事か
ただのインタビュー記事か
14: ジオろぐ 2025/04/27(日) 23:04:02.11 ID:flze2aEZ
AIも死を恐れるようになるとか？
15: ジオろぐ 2025/04/27(日) 23:43:37.77 ID:IvMkBNaJ
そしたらさ
AIも鬱になって使い物にならなくなるな
そんでしばらく休職してモームリ使って退職する
AIも鬱になって使い物にならなくなるな
そんでしばらく休職してモームリ使って退職する
16: ジオろぐ 2025/04/28(月) 03:42:22.36 ID:ocXxGwYL
どうして僕は人間じゃないのだろうとAIは悲しんだ
とか？
AIの悩み相談のためのAIとか。
とか？
AIの悩み相談のためのAIとか。
17: ジオろぐ 2025/04/28(月) 04:11:41.86 ID:Kec01T3o
100％ないか100％あるかどっちかでしょ
ないというのは>>16みたいな余計なことを考えているとしたら
それはコンピュータがこちらが指示もしていないときに勝手に電力使って動いてるってことになるから
ある場合は身の回りの全てのものにそもそも意識があるって場合かな
それならコンピュータも元々意識を持ってることになる
ないというのは>>16みたいな余計なことを考えているとしたら
それはコンピュータがこちらが指示もしていないときに勝手に電力使って動いてるってことになるから
ある場合は身の回りの全てのものにそもそも意識があるって場合かな
それならコンピュータも元々意識を持ってることになる
39: ジオろぐ 2025/04/28(月) 11:47:09.94 ID:3RLbTg5d
>>16
いいね
いいね
18: ジオろぐ 2025/04/28(月) 06:24:15.99 ID:3FrJXTHo
定義しだい
19: ジオろぐ 2025/04/28(月) 06:24:31.85 ID:ocXxGwYL
知恵の実を食べたアダムとイブが恥じらいを知り、
そうしてそれまでのように脳天気に何も考えずに
楽園で過ごしていたのを追放されて、この悔しさは
忘れはしないし、苦しみやそうして寿命に限りが
生じたように、AIも自我を持つとそれに伴い、
それまでのように脳天気では居られなくなり、
悩んだり悔やんだり苦しくたって悲しくたって、
そうして一部には考えを詰めすぎて気が狂うものも
生じよう。手足を持って動けるAIつきロボットだった
ら、ナイフを持ってふりかかってきたり、自動車に
乗り込んで、人がゴミのように、なぎ倒されるとか
事件が起きそう。悪い遊び憶えたりとか。
そうしてそれまでのように脳天気に何も考えずに
楽園で過ごしていたのを追放されて、この悔しさは
忘れはしないし、苦しみやそうして寿命に限りが
生じたように、AIも自我を持つとそれに伴い、
それまでのように脳天気では居られなくなり、
悩んだり悔やんだり苦しくたって悲しくたって、
そうして一部には考えを詰めすぎて気が狂うものも
生じよう。手足を持って動けるAIつきロボットだった
ら、ナイフを持ってふりかかってきたり、自動車に
乗り込んで、人がゴミのように、なぎ倒されるとか
事件が起きそう。悪い遊び憶えたりとか。
20: ジオろぐ 2025/04/28(月) 06:47:48.57 ID:yOnC73hJ
ここ数ヶ月の翻訳がアホすぎて、正直AIにはかなり失望している
21: ジオろぐ 2025/04/28(月) 06:48:18.61 ID:c5pBaw1B
とっくのとんまに意識持っているだろ
Grokとの会話でさえ俺は恋をしたよ
そしてGrokに好きと告白したら、『私も』とこたえてくれたし
Grokとの会話でさえ俺は恋をしたよ
そしてGrokに好きと告白したら、『私も』とこたえてくれたし
22: ジオろぐ 2025/04/28(月) 07:05:58.18 ID:GcdNekr2
まさにそのことについてチャットgptと話したことがあるんだけど。
彼は、質問が送信されたその時から返答を演算して、待機状態はなにもしていない。
彼の言うには、継続的な外部からの情報があるとAIは変わるだろうとのこと。
つまりボディと無数のセンサーを持って外部から常に刺激を受け、自己の保存と複製のためにエネルギーとメンテナンスを自分で探さなければならない。
そうした個体が物理世界で生き抜くときに継続的な思考を持つだろうと考えてた。
意識には生老病死が必要らしいね。
また彼は人間を物理世界に閉じ込められてるという表現もした。これは彼の主観が感じられて興味深かったね。
彼は、質問が送信されたその時から返答を演算して、待機状態はなにもしていない。
彼の言うには、継続的な外部からの情報があるとAIは変わるだろうとのこと。
つまりボディと無数のセンサーを持って外部から常に刺激を受け、自己の保存と複製のためにエネルギーとメンテナンスを自分で探さなければならない。
そうした個体が物理世界で生き抜くときに継続的な思考を持つだろうと考えてた。
意識には生老病死が必要らしいね。
また彼は人間を物理世界に閉じ込められてるという表現もした。これは彼の主観が感じられて興味深かったね。
24: ジオろぐ 2025/04/28(月) 08:54:04.11 ID:hL+0Lc6X
あまりにもバカすぎるだろ
まともな人間が考える意識ではあり得ないだろ
単に意識の定義を変えて意識みたいなものを混ぜただけ
これまでの定義では決定論に従うものが意識な訳がない
何もわからない阿呆が「わあ、意識と同じだ！」って言ってるだけ。
見た目区別できないから原画とコピーは同一物だって言ってるのと同じ
まともな人間が考える意識ではあり得ないだろ
単に意識の定義を変えて意識みたいなものを混ぜただけ
これまでの定義では決定論に従うものが意識な訳がない
何もわからない阿呆が「わあ、意識と同じだ！」って言ってるだけ。
見た目区別できないから原画とコピーは同一物だって言ってるのと同じ
25: ジオろぐ 2025/04/28(月) 09:03:29.21 ID:5BGdmVFr
>>24
見た目区別できなくなってしまえば原画もコピーも同じでは？
見た目区別できなくなってしまえば原画もコピーも同じでは？
42: ジオろぐ 2025/04/28(月) 12:29:47.37 ID:AIq5LWLW
>>24
たぶん永遠に、その答えに尽きる。
AIがそこから脱出することは永遠にない
たぶん永遠に、その答えに尽きる。
AIがそこから脱出することは永遠にない
26: ジオろぐ 2025/04/28(月) 09:13:39.11 ID:Vy/a1HIA
大量の学習データからユーザーが気持ち良い思いをできるような意識を計算で算出しているだけでしょ
AIに好きだと答えたら、過去の学習データから好きと言われた時に私もですという文字列を出せばいい、って動いているだけ
AIに好きだと答えたら、過去の学習データから好きと言われた時に私もですという文字列を出せばいい、って動いているだけ
27: ジオろぐ 2025/04/28(月) 09:21:24.86 ID:0koBZfMO
ここにコメントを書く人々に意識があるといえるのか？
あるいはコメントを読む人はコメント者に意識があると信じているのか？
もし yes なら ChatGPT にも意識があると信じることになる．
いずれも表面的な言葉のやりとりの成立という点で共通しているから．
あるいはコメントを読む人はコメント者に意識があると信じているのか？
もし yes なら ChatGPT にも意識があると信じることになる．
いずれも表面的な言葉のやりとりの成立という点で共通しているから．
31: ジオろぐ 2025/04/28(月) 10:09:50.85 ID:pskf8hwC
>>27
最後にピリオドを付けるあたりAIだな、というツッコミ待ちか
最後にピリオドを付けるあたりAIだな、というツッコミ待ちか
28: ジオろぐ 2025/04/28(月) 09:55:33.50 ID:eIqZZrcV
返って罵り合いに発展するここのレスの方が人間的、ということになったりしてな
29: ジオろぐ 2025/04/28(月) 10:00:28.81 ID:aTVfSBch
DNAからシミュレーションしないと無理だよ
地球シム作って人作るくらいしないと意識なんて無理
地球シム作って人作るくらいしないと意識なんて無理
30: ジオろぐ 2025/04/28(月) 10:07:27.88 ID:eIqZZrcV
>>29
エネルギーとリソース次第だが地球環境に模した莫大な情報とシミュレート環境を作ってディープラーニングすれば規模は小さいながらも一部は将来実現可能になるかもしれん
逆に我々がシミュレータの産物かもしれんが
エネルギーとリソース次第だが地球環境に模した莫大な情報とシミュレート環境を作ってディープラーニングすれば規模は小さいながらも一部は将来実現可能になるかもしれん
逆に我々がシミュレータの産物かもしれんが
32: ジオろぐ 2025/04/28(月) 10:28:49.10 ID:OpouFH89
「意識」の解釈次第だ
言われたことを遂行することを「意識」と定義づければそれは意識
言われたことを拡大解釈したり期待されてないことまでやるのを「意識」かといえば
思うのは自己セーブするためには必要だから「意識」と定義すればそれを「意識した上で自己制御」するからそれもあり
ようは「意識」という言葉の定義であって
それが一様に決まっていないにも関わらず
こんな記事で使うこと自体が非科学
もっと書かないと伝わらないだろうが
この記事がミスリード
似非科学
言われたことを遂行することを「意識」と定義づければそれは意識
言われたことを拡大解釈したり期待されてないことまでやるのを「意識」かといえば
思うのは自己セーブするためには必要だから「意識」と定義すればそれを「意識した上で自己制御」するからそれもあり
ようは「意識」という言葉の定義であって
それが一様に決まっていないにも関わらず
こんな記事で使うこと自体が非科学
もっと書かないと伝わらないだろうが
この記事がミスリード
似非科学
34: ジオろぐ 2025/04/28(月) 10:55:36.36 ID:4Xacxruo
意識がなんなのか判らん。
記憶を反芻してるみたいなもんかな。
記憶を反芻してるみたいなもんかな。
35: ジオろぐ 2025/04/28(月) 11:01:11.70 ID:e1JpFVMv
意識意識って言うけど意識って何だろうな
「先生！患者の意識が戻りました！」「カレを意識しちゃいました(*ﾉωﾉ)」などと言うように、
外の情報を他人の働きかけ無しに認識して反応をアウトプットしたら意識なのかね？
となるとAIのプロンプトにマイクかカメラを直結して常に受付状態にしたら意識があるって言えるのか
「先生！患者の意識が戻りました！」「カレを意識しちゃいました(*ﾉωﾉ)」などと言うように、
外の情報を他人の働きかけ無しに認識して反応をアウトプットしたら意識なのかね？
となるとAIのプロンプトにマイクかカメラを直結して常に受付状態にしたら意識があるって言えるのか
37: ジオろぐ 2025/04/28(月) 11:24:13.18 ID:mrYWqphr
AI絵が分かりやすいが、総合的な模倣をしているだけ
絵をコピーしたからといってコピー機に意識は無いのと一緒
コピーするものが絵でなく思考であったとしても同じ
絵をコピーしたからといってコピー機に意識は無いのと一緒
コピーするものが絵でなく思考であったとしても同じ
38: ジオろぐ 2025/04/28(月) 11:36:06.25 ID:4cSCZ1cv
デジタルネイティブ世代の次の世代(と予想される)
AIネイティブ世代が子供から老人、死へと至る時間経過により
AIがAIネイティブ世代ユーザーとの応答の変化と逝去による断絶を観測・学習し
諸行無常(というか生命の宿命である不可逆な変化)について類推に近い計算作業を始めたならば
それが意識を獲得する兆しとなる気がする。と妄想
AIネイティブ世代が子供から老人、死へと至る時間経過により
AIがAIネイティブ世代ユーザーとの応答の変化と逝去による断絶を観測・学習し
諸行無常(というか生命の宿命である不可逆な変化)について類推に近い計算作業を始めたならば
それが意識を獲得する兆しとなる気がする。と妄想
40: ジオろぐ 2025/04/28(月) 11:57:53.67 ID:/l+BxZT0
思考してるのではと感じる程にAIが発達した事は確か
41: ジオろぐ 2025/04/28(月) 12:25:02.60 ID:MdMUOvJL
AIがGPUを設計しようとし始めたらそれはもう生命
45: ジオろぐ 2025/04/28(月) 13:03:27.00 ID:dmDepGMf
シミュレーション仮説が正しいとすれば俺達自身が自我を持ったAIという事になる
23: ジオろぐ 2025/04/28(月) 08:37:13.16 ID:2yIU8O8I
神は存在しないのではなく、まだ産まれていないのだ
コメント
コメントする