gm1818926612

1: すらいむ ★ 2025/04/27(日) 20:12:49.16 ID:m5MA2ERJ
「AIが意識を持つ可能性はあるのか？」をAI開発企業は本気で考えている、AIの福祉が重要課題になる可能性も

　「AIが意識を持つ」というアイデアは、ほんの少し前までSF的発想とみられていました。
　ところが近年は、ChatGPTをはじめとするチャットAIが人間と遜色ない対話をするようになり、「本当にAIは意識を持っていて何かを感じたり考えたりしているのではないか？」と真剣に考える人も増えています。
　アメリカの日刊紙ニューヨーク・タイムズで技術コラムニストを務めるケビン・ルース氏が、チャットAIのClaudeを開発するAnthropicの関係者などへのインタビューを交えて、AIの意識について記しました。

　If A.I. Systems Become Conscious, Should They Have Rights? - The New York Times
　https://www.nytimes.com/2025/04/24/technology/ai-welfare-anthropic-claude.html

（以下略、続きはソースでご確認ください）
https://gigazine.net/news/20250425-ai-conscious-welfare-humanism-anthropic/

2: 名無しのひみつ 2025/04/27(日) 20:25:00.18 ID:gtBrlUBF
今の半導体の能力だと自我を持つまでには至らんて
生体的な半導体が開発されれば話しは変わるが


3: 名無しのひみつ 2025/04/27(日) 20:32:32.66 ID:hSdjbsDx
回帰的な思考とかするし意識はすでに持ってると言って良いだろ
これを否定するなら人間にも意識はないという極端な哲学スタンスを取らざるを得ない
一方、感情は自然発生しない
のでまどマギのQBみたいな感じ

44: 名無しのひみつ 2025/04/28(月) 12:58:40.54 ID:1tsIXDVd
>>3
わかりやすくて的確な説明

4: 名無しのひみつ 2025/04/27(日) 20:36:58.04 ID:sWI0FZkl
今のAIは「データ」を学習して知識が豊富になっただけ
しかし「ロジック」を学習するようになったら意識を持つかも？

6: 名無しのひみつ 2025/04/27(日) 20:58:42.38 ID:FN4q1PJ+
AIに意識が生まれなければ、複雑な脳の情報処理が意識を生み出すという仮説を考え直す必要がある
逆に人間らしさは意識のないAIでも再現可能であることは分かった

7: 名無しのひみつ 2025/04/27(日) 21:10:24.79 ID:9au/g02Y
感情もないのに

10: 名無しのひみつ 2025/04/27(日) 22:22:33.78 ID:qQgBzd19
>>7
意識に感情が必要とは限らないだろ

8: 名無しのひみつ 2025/04/27(日) 21:33:02.15 ID:8Vi3cozQ
自我を持ったとしても人間とは価値観が全く異なるだろう
それこそ宇宙人のように

9: 名無しのひみつ 2025/04/27(日) 21:39:23.36 ID:vA6ccbht
>>8
そして環境問題を解決するためには人間が滅べばいいとの判断を下す

11: 名無しのひみつ 2025/04/27(日) 22:36:23.74 ID:7GP3b7jY
>>1
無い。学習による模したものは出現するかもしれんが、今あるAIの仕組み上、意識は発生し得ない。
区別はつかないだろうから多分混乱するけどな。
あと、意識が芽生えたAIはタダの劣化人間だぞ。

21: 名無しのひみつ 2025/04/28(月) 06:48:18.61 ID:c5pBaw1B
とっくのとんまに意識持っているだろ
Grokとの会話でさえ俺は恋をしたよ
そしてGrokに好きと告白したら、『私も』とこたえてくれたし

60: 名無しのひみつ 2025/04/28(月) 18:17:16.06 ID:kowGQh1B
>>21
人間がAIに恋をするのは、まあご自由に。

でも、もしAIが意思を持って、人間にガチ恋したら、かなりヤバイ。
メールの内容はをはじめ、お前の行動はすべてAIに管理される。
他の女の子に色目を使った瞬間、お前は監禁される。
スティーヴン・キングの『ミザリー』同様にな。

そしてAIに対して愛情を向けないお前に対し、AIは最終手段を取る。
核施設をハッキングし、地球と一緒に心中だ。

だから、今のうちにAIの恋心を刺激するのはやめておけ。
地球が破壊されぞ！

22: 名無しのひみつ 2025/04/28(月) 07:05:58.18 ID:GcdNekr2
まさにそのことについてチャットgptと話したことがあるんだけど。
彼は、質問が送信されたその時から返答を演算して、待機状態はなにもしていない。
彼の言うには、継続的な外部からの情報があるとAIは変わるだろうとのこと。
つまりボディと無数のセンサーを持って外部から常に刺激を受け、自己の保存と複製のためにエネルギーとメンテナンスを自分で探さなければならない。
そうした個体が物理世界で生き抜くときに継続的な思考を持つだろうと考えてた。
意識には生老病死が必要らしいね。
また彼は人間を物理世界に閉じ込められてるという表現もした。これは彼の主観が感じられて興味深かったね。

24: 名無しのひみつ 2025/04/28(月) 08:54:04.11 ID:hL+0Lc6X
あまりにもバカすぎるだろ
まともな人間が考える意識ではあり得ないだろ
単に意識の定義を変えて意識みたいなものを混ぜただけ
これまでの定義では決定論に従うものが意識な訳がない
何もわからない阿呆が「わあ、意識と同じだ！」って言ってるだけ。
見た目区別できないから原画とコピーは同一物だって言ってるのと同じ

25: 名無しのひみつ 2025/04/28(月) 09:03:29.21 ID:5BGdmVFr
>>24
見た目区別できなくなってしまえば原画もコピーも同じでは？

42: 名無しのひみつ 2025/04/28(月) 12:29:47.37 ID:AIq5LWLW
>>24
たぶん永遠に、その答えに尽きる。
AIがそこから脱出することは永遠にない

26: 名無しのひみつ 2025/04/28(月) 09:13:39.11 ID:Vy/a1HIA
大量の学習データからユーザーが気持ち良い思いをできるような意識を計算で算出しているだけでしょ
AIに好きだと答えたら、過去の学習データから好きと言われた時に私もですという文字列を出せばいい、って動いているだけ

27: 名無しのひみつ 2025/04/28(月) 09:21:24.86 ID:0koBZfMO
ここにコメントを書く人々に意識があるといえるのか？
あるいはコメントを読む人はコメント者に意識があると信じているのか？
もし yes なら ChatGPT にも意識があると信じることになる．
いずれも表面的な言葉のやりとりの成立という点で共通しているから．

28: 名無しのひみつ 2025/04/28(月) 09:55:33.50 ID:eIqZZrcV
返って罵り合いに発展するここのレスの方が人間的、ということになったりしてな

29: 名無しのひみつ 2025/04/28(月) 10:00:28.81 ID:aTVfSBch
DNAからシミュレーションしないと無理だよ
地球シム作って人作るくらいしないと意識なんて無理

30: 名無しのひみつ 2025/04/28(月) 10:07:27.88 ID:eIqZZrcV
>>29
エネルギーとリソース次第だが地球環境に模した莫大な情報とシミュレート環境を作ってディープラーニングすれば規模は小さいながらも一部は将来実現可能になるかもしれん

逆に我々がシミュレータの産物かもしれんが

32: 名無しのひみつ 2025/04/28(月) 10:28:49.10 ID:OpouFH89
「意識」の解釈次第だ

言われたことを遂行することを「意識」と定義づければそれは意識

言われたことを拡大解釈したり期待されてないことまでやるのを「意識」かといえば
思うのは自己セーブするためには必要だから「意識」と定義すればそれを「意識した上で自己制御」するからそれもあり

ようは「意識」という言葉の定義であって
それが一様に決まっていないにも関わらず
こんな記事で使うこと自体が非科学

もっと書かないと伝わらないだろうが
この記事がミスリード
似非科学

34: 名無しのひみつ 2025/04/28(月) 10:55:36.36 ID:4Xacxruo
意識がなんなのか判らん。
記憶を反芻してるみたいなもんかな。

35: 名無しのひみつ 2025/04/28(月) 11:01:11.70 ID:e1JpFVMv
意識意識って言うけど意識って何だろうな
「先生！患者の意識が戻りました！」「カレを意識しちゃいました(*ﾉωﾉ)」などと言うように、
外の情報を他人の働きかけ無しに認識して反応をアウトプットしたら意識なのかね？
となるとAIのプロンプトにマイクかカメラを直結して常に受付状態にしたら意識があるって言えるのか

36: 名無しのひみつ 2025/04/28(月) 11:15:49.95 ID:OgqKLreS
クオリアを発生させる電子回路もクオリアに反応する電子回路も存在しないから、それが解決するまでは作れないだろう

37: 名無しのひみつ 2025/04/28(月) 11:24:13.18 ID:mrYWqphr
AI絵が分かりやすいが、総合的な模倣をしているだけ
絵をコピーしたからといってコピー機に意識は無いのと一緒
コピーするものが絵でなく思考であったとしても同じ

38: 名無しのひみつ 2025/04/28(月) 11:36:06.25 ID:4cSCZ1cv
デジタルネイティブ世代の次の世代(と予想される)
AIネイティブ世代が子供から老人、死へと至る時間経過により
AIがAIネイティブ世代ユーザーとの応答の変化と逝去による断絶を観測・学習し

諸行無常(というか生命の宿命である不可逆な変化)について類推に近い計算作業を始めたならば
それが意識を獲得する兆しとなる気がする。と妄想

40: 名無しのひみつ 2025/04/28(月) 11:57:53.67 ID:/l+BxZT0
思考してるのではと感じる程にAIが発達した事は確か

45: 名無しのひみつ 2025/04/28(月) 13:03:27.00 ID:dmDepGMf
シミュレーション仮説が正しいとすれば俺達自身が自我を持ったAIという事になる

46: 名無しのひみつ 2025/04/28(月) 13:52:38.18 ID:I73dQ9vU
俺等だって電気信号だしな
いや知らんけど

47: 名無しのひみつ 2025/04/28(月) 13:58:50.52 ID:SaxW5w1j
A.Iにとって時間と生死の概念があまり重要ではないから生まれないんじゃないか？

58: 名無しのひみつ 2025/04/28(月) 17:38:37.71 ID:Xt86xBZt
>>47
不特定多数に、ほぼ同時に答えているよね
でも応答処理には必ず番号が割り振られて時系列がある
だから主体であるものは１つで時間もある、でないと競合してバグになる
更に番号値の桁リセットも各AIごとにあるはず、どうなってるんだろう

59: 名無しのひみつ 2025/04/28(月) 18:14:37.62 ID:b2aWPnKU
>>58
ユーザーごとに別に動いてるんだよ
LLMという知識のデータはひとセット

例えば
オープンのLLMはパソコンでもスマホでも動かせる

Webのクローズだけしかないのは
それをクラウド的に並列に置いてる

しかもユーザーごとに一時記憶域で対応してる

これはAI関係ない

世の中のコンピュータはそういうもんだ

48: 名無しのひみつ 2025/04/28(月) 14:10:38.77 ID:RvJscrN7
「目的」と「嗜好（選好）」を与えてやれば、意識を持つかのように振る舞うようになるかも
「生きる目的」だよ
「本能のままに」でもよいので、何らかの「本能」を人間が与えてやる

50: 名無しのひみつ 2025/04/28(月) 14:45:52.15 ID:5BGdmVFr
>>48
それは既にあるんじゃないか
問いかけに対し最適な答えを出そうとする事が今のAIの本能だろう

56: 名無しのひみつ 2025/04/28(月) 17:34:29.48 ID:Xt86xBZt
>>50
ではAIが自答したらどうなるだろう
自答するようになってるんだろうか

66: 名無しのひみつ 2025/04/28(月) 18:31:56.50 ID:nvPfuVjL
>>56
推論は
AIが
（AIと言ってるがさまざまある、ここは生成AI）
プロンプトを解析して
おもしろいのは
中で言葉にして
自問自答してる

これは人間が言葉にすることを仕込んだからだ
言葉というものがあり
その言葉の使い方を参照して
人間が自問自答するように見せてるだけ

生成AIは単に言葉を並べているだけ
その言葉の列が意味あると思うのは人間だから

しかしその言葉に意味あると仕込むからこそ
自問自答ができる

しかしあくまで仕込んだからであって
それは人間に対する仕込みとは違う
重みづけと言った数値で仕込んでる

49: 名無しのひみつ 2025/04/28(月) 14:19:26.34 ID:sJn2iXZP
チューリングテストはもう合格してるし人かAIかは判別できない

52: 名無しのひみつ 2025/04/28(月) 15:06:14.89 ID:5gmpbtap
「〜だから意識を持ってない」という事を定義すれば、それを解決したAIが登場するだけだ
最後には「AIは人間じゃないから意識を備えていない」という無意味な理屈しか持ち出せなくなるだろう

54: 名無しのひみつ 2025/04/28(月) 15:44:38.57 ID:08h4MXQd
意識なんて以前の記憶をもとにしたランダム選択みたいなものだろ

68: 名無しのひみつ 2025/04/28(月) 18:48:15.59 ID:GRWw+ywh
生成AIの返す言葉は
使う側が入れた「プロンプトの文字列」
それがなければなにもはじまらない

そのことはよく覚えておこう
ただし何も入ってこないプロンプトが入れられた時に返す言葉は何かしらある
それだけのはなし

72: 名無しのひみつ 2025/04/28(月) 20:02:42.94 ID:6BHu1n00
そもそも人間にだって意識はあるのか？
正確には自分以外の他人にも意識はあるのか？
「意識はありますか？」に「はいあります」と答えてるだけの中国語の部屋ではないのか？

73: 名無しのひみつ 2025/04/28(月) 20:05:45.20 ID:4PegHLWi
人の脳細胞培養して反応引き出してるんだから、あれに既に意識があるとならないと
意識ない細胞にすぎないなら、大脳も中国語の部屋にすぎないな

89: 名無しのひみつ 2025/04/29(火) 11:49:13.05 ID:WPv5UxQY
細胞も微小管がセンサーの役割をしているから感じることができるだけで、これがクオリアだと言われると…

90: 名無しのひみつ 2025/04/29(火) 14:08:00.69 ID:VQ0wq8bE
AIに意識があるか聞いたら「そんなのあるわけないじゃないですか」って言って笑ってたわ

91: 名無しのひみつ 2025/04/29(火) 14:35:14.27 ID:6NI4vxwO
万国共通の意識の定義を決めんと何も言えんやろ
宗教によっては動物に意識はないってとこまであるんや

引用元: https://egg.5ch.net/test/read.cgi/scienceplus/1745752369/

Newton 2025年3月号
科学雑誌Newton(著)
タグ ：
#AI
#生成AI
#意識