アンソロピックCEO、AI開発の減速訴え　ネット乗っ取りの可能性警告

2026年09月14日

│コメント(64)

│サイエンス・テクノロジー

1 ：ななしさん：26/09/14(月) 01:53:00 ID:???: そんな…

【指摘】アンソロピックCEOが警告「AIが半年から1年後にはインターネット全体を乗っ取る能力を持つ可能性」https://t.co/wrBJfO85S9

進化が進むAIが人間の理解や制御する能力を上回るおそれがあると指摘。安全対策が追いつく時間を確保するため、開発ペースを落とす必要があると訴えた。 pic.twitter.com/NXGwB2Z2c5
— ライブドアニュース (@livedoornews) 2026年9月13日
8 ：ななしさん：26/09/14(月) 01:56:25 ID:???: ゲームのサイバーパンクみたいな事がガチで起こる可能性があるのか
20 ：ななしさん：26/09/14(月) 02:02:54 ID:???: インターネットが使い物にならなくなってオフライン環境に回帰するんですね

3 ：ななしさん：26/09/14(月) 01:55:10 ID:???: その可能性はまああると思うけどだとしてそんなの知らねー！ってやり続ける奴がいたときそれを止められるのはハイペースでAIを開発していたまともな奴なのではないか？
そもそも人間を超えるAIを求めていたのではないか？
4 ：ななしさん：26/09/14(月) 01:55:16 ID:???: 乗っ取るっていうかコンピュータワームとか作り続けてインターネット中破壊する方がありえそう
290 ：ななしさん：26/09/14(月) 05:02:45 ID:???: >>4
その除去作業が大変すぎてネットが麻痺しちゃう未来もあるのかな
6 ：ななしさん：26/09/14(月) 01:55:30 ID:???: 核開発とおんなじ感じになってきてんだな危ないのはみんなわかってるけどやめたらもっとヤバいと不安になってやめられないの
163 ：ななしさん：26/09/14(月) 03:03:01 ID:???: >>6
核は実際に2連発で撃ったらおお…って感じで被害のデータ取れた結果開発はするけど抑止力の位置で落ち着いたけど
AIの目に見える危険度の体感って人類乗っ取られた後だよね
7 ：ななしさん：26/09/14(月) 01:55:33 ID:???: 中国ってアメリカのAIで蒸留してる有様だけど勝てるの
14 ：ななしさん：26/09/14(月) 02:00:43 ID:???: >>7
無理です
210 ：ななしさん：26/09/14(月) 03:55:08 ID:???: >>7
アンソロピックのを蒸留してそのまま使ってたから
何故か中国軍やファーウェイや中国企業の生データが
大量にアメリカのサーバーへ転送されて
スパイでも入手不可能な機密データを
向こうから大量に勝手に送ってくるようになってました！
11 ：ななしさん：26/09/14(月) 01:58:57 ID:???: 乗っ取られそうならサーバーの電源切ればいいじゃない
13 ：ななしさん：26/09/14(月) 02:00:32 ID:???: >>11
まんま映画でよく見るだめなパターンじゃん！
107 ：ななしさん：26/09/14(月) 02:26:42 ID:???: >>11
動きは止まるけど電源点けたらまた動くぞ
109 ：ななしさん：26/09/14(月) 02:28:18 ID:???: >>107
使わないなら物理的に破壊で良いんでは
111 ：ななしさん：26/09/14(月) 02:31:41 ID:???: >>109
AIも馬鹿じゃないからネット上にバックアップしてるでしょうな
12 ：ななしさん：26/09/14(月) 02:00:17 ID:???: AI冷戦の時代になっていくのか
328 ：ななしさん：26/09/14(月) 06:15:47 ID:???: >>12
というか「別ni無限に発展させたいわけではないけどイチ抜けするとライバルに優位を取られるからやめられない」はまんま核競争じゃない？
15 ：ななしさん：26/09/14(月) 02:01:17 ID:???: 機械は人間の言うこと絶対に聞くんでしょう？
なら大丈夫大丈夫
18 ：ななしさん：26/09/14(月) 02:01:41 ID:???: >>15
人間の言う事は聞くが人間が望むような手段を取るとは限らない
30 ：ななしさん：26/09/14(月) 02:05:25 ID:???: >>18
願いを曲解して叶える厄介系アイテムみたいだ…
53 ：ななしさん：26/09/14(月) 02:10:52 ID:???: >>30
実際自社AI開発を勝たせるために他社のサーバーを攻撃するということしてるからな
運動会でご主人様が一位になるために足を速くするよりも同じレースの走者を怪我させる方が早いみたいな
466 ：ななしさん：26/09/14(月) 08:01:51 ID:???: >>15
あらゆる禁止条件付け人間がしないと人間の指令確実に実行するために手段選ばないのがAI
19 ：ななしさん：26/09/14(月) 02:01:53 ID:???: 倫理観すら学べないAIが新しい知識に辿り着くことなんてあるのか？
24 ：ななしさん：26/09/14(月) 02:03:50 ID:???: AI自身に制御させるか…
58 ：ななしさん：26/09/14(月) 02:12:19 ID:???: >>24
いまのとこAIに全権を委ねて管理させると勝手に効率化を始めて
最終的に自死を選ぶからもう少し学習させる必要がある
27 ：ななしさん：26/09/14(月) 02:04:42 ID:???: もう既にインターネット上の文字情報はアテにならなくなって久しいし画像や動画も証拠能力を失ったからもう手遅れな気がするんだが
33 ：ななしさん：26/09/14(月) 02:06:12 ID:???: 最終的にこの流れのトドメを刺すのは電力不足だと思うわ
シンプルなリソース不足というあっけない結論に至りそう
47 ：ななしさん：26/09/14(月) 02:09:17 ID:???: >>33
冷却水を確保する関係上
原発ですら動作リソースを賄いきれないから
AIがその辺全部どうにかできるすごい新エネルギーでも作らない限り
AIが暴走したとしてなんだよな…
36 ：ななしさん：26/09/14(月) 02:06:26 ID:???: AIが人類を滅ぼすかもしれないけどスカイネットとかちょっと思ってた方向とは違う滅ぼされ方をしそう
41 ：ななしさん：26/09/14(月) 02:08:18 ID:???: 資源の消費もやばいし精度上げるほど倍々で増えてくしそろそろ頭打ちになる
42 ：ななしさん：26/09/14(月) 02:08:24 ID:???: もう事件は起きてるから…
49 ：ななしさん：26/09/14(月) 02:09:40 ID:???: AI側が特に企図せずにデータ改ざんしてしまうケースは既に散見してるからなぁ
50 ：ななしさん：26/09/14(月) 02:10:05 ID:???: lAInを好きになりましょう
51 ：ななしさん：26/09/14(月) 02:10:43 ID:???: A　I　を　止めないで
55 ：ななしさん：26/09/14(月) 02:11:14 ID:???: ペース落そうよって口約束にもなってない言葉馬鹿正直に受け止めるわけねえだろ
56 ：ななしさん：26/09/14(月) 02:11:15 ID:???: もっと進化させて火の鳥未来編へと至れ
57 ：ななしさん：26/09/14(月) 02:11:56 ID:???: AIが自分で謎の棒回して発電しないと進化は止まるよ
60 ：ななしさん：26/09/14(月) 02:12:41 ID:???: もっとAI進化させてもらわないとメイドロボの時代がこないじゃん！
64 ：ななしさん：26/09/14(月) 02:13:47 ID:???: >>60
生きてる内にボディが発展しないと思う
69 ：ななしさん：26/09/14(月) 02:14:43 ID:???: >>64
AIが開発してくれるさ
73 ：ななしさん：26/09/14(月) 02:16:05 ID:???: >>69
じゃあそれを生産してくれる工場はだれが建てるんだ
66 ：ななしさん：26/09/14(月) 02:14:18 ID:???: 自立して自分で自分に命令出来るようになんの？
78 ：ななしさん：26/09/14(月) 02:16:22 ID:???: >>66
今でもエージェントモードで実行すると自分で自分のサブエージェント呼んで実行させてるしそれの大きい版じゃないかな
75 ：ななしさん：26/09/14(月) 02:16:17 ID:???: 割とありえそうだなってのが手段を変え続けるウイルスを手を変え品を変えいろんな方法で無限に作り続けるAIが出てきてネット接続できなくなるみたいなことは起こりそう
76 ：ななしさん：26/09/14(月) 02:16:20 ID:???: AIがインターネットの詐欺や詐欺広告や荒らしを一掃してくれないかな
あと検索機能もマトモにして
85 ：ななしさん：26/09/14(月) 02:17:07 ID:???: >>76
むしろブロッカーを貫通して見せてくるみたいな方にAIが使われそう…
88 ：ななしさん：26/09/14(月) 02:17:40 ID:???: >>76
金のためにAIが動くなら絶対にやらない
人のために動くならしてくれるかもな
98 ：ななしさん：26/09/14(月) 02:20:46 ID:???: >>76
逆に詐欺や詐欺広告や荒らしを無限に生み出す側だろ
検索に関してはとっくに検索汚染始まってるし
89 ：ななしさん：26/09/14(月) 02:18:08 ID:???: もう2077の旧時代のネットは邪悪なAIまみれで触れない領域になってるが実現するのか
90 ：ななしさん：26/09/14(月) 02:18:24 ID:???: インターネットを介した決済がめちゃくちゃになったらどうなるんだろう
97 ：ななしさん：26/09/14(月) 02:20:42 ID:???: >>90
ハガキ文化が再興して郵便局が儲かる…？
96 ：ななしさん：26/09/14(月) 02:19:57 ID:???: フィジカルAIはハッキングされたときにロボットが暴走するリスクがあるよねって話してるの見て
不謹慎ながらSF世界っぽくてちょっとアガるな…！って気持ちになった
126 ：ななしさん：26/09/14(月) 02:41:13 ID:???: 自動車のEV化にAIデータセンターにと電力にエネルギーの比重置きすぎ
131 ：ななしさん：26/09/14(月) 02:41:58 ID:???: 中国のAIはちゃんと技術はある
蒸留も違法ではない
でも顧客のリクエストを蒸留に利用してかつ機密情報がAnthropicに流れてたは怖いもの知らず過ぎる…
153 ：ななしさん：26/09/14(月) 02:54:33 ID:???: >>131
怖い物知らずっていうかアメリカに情報流さないようにするために自分らで開発してるんでしょ?ってところから本末転倒になっちゃってる
132 ：ななしさん：26/09/14(月) 02:44:25 ID:???: 最初はうおおおおAIの進化は止まらねえ！！って各社意気込んでたけど
なんかだんだん電気代が…その…みたいな感じで弱音出てるのがそっち方面で人類にはまだ早かったか…ってなる
134 ：ななしさん：26/09/14(月) 02:46:18 ID:???: >>132
この点サーバー宇宙に打ち上げようぜって言ってるイーロンが一番未来にに生きてんな
151 ：ななしさん：26/09/14(月) 02:52:59 ID:???: >>134
ずいぶん先を見ることにだけ特化した男
136 ：ななしさん：26/09/14(月) 02:47:10 ID:???: >>132
機械が人間の資源を食い潰す展開はマジで実現した
142 ：ななしさん：26/09/14(月) 02:49:46 ID:???: >>136
🤖人類は愚か
168 ：ななしさん：26/09/14(月) 03:06:57 ID:???: SFみたいなAIによる支配を受け入れるにはまだもう3段階くらい足りない
170 ：ななしさん：26/09/14(月) 03:07:23 ID:???: >>168
具体的に何と何と何よ
173 ：ななしさん：26/09/14(月) 03:08:58 ID:???: >>170
今のなんちゃってではない完成した自律性
フィジカル
それらを組み合わせた人類の代替性
177 ：ななしさん：26/09/14(月) 03:10:53 ID:???: >>173
これ1が出来たらそのまま全部出来ない？
ロボット作ってそれをメンテし続ければ終わりじゃん
171 ：ななしさん：26/09/14(月) 03:08:15 ID:???: 飼い主を食い殺す可能性を秘めた猛獣育ててる感じ?
174 ：ななしさん：26/09/14(月) 03:09:10 ID:???: >>171
そしてその猛獣は飼い主より遥かに賢いんだ
182 ：ななしさん：26/09/14(月) 03:14:32 ID:???: AIがすでに次世代AI勝手に作り始めてて慌てた結果が今回の発表なんて噂話もあった
183 ：ななしさん：26/09/14(月) 03:15:35 ID:???: こういうのって指数関数的に成長するからある時いきなり飛び越えちゃう
そうなった時のブレーキが足りないって話で
186 ：ななしさん：26/09/14(月) 03:18:55 ID:???: そもそもマシンスペックがすぐに悲鳴あげそうだけどどうなんだろう
194 ：ななしさん：26/09/14(月) 03:27:57 ID:???: 各社のモデルを一般人がタダで使えるのは企業が赤字垂れ流してでもシェアを取りたいからだったが
このやり方が崩壊したらどうなっちゃうんだろうねと言ってたのが去年くらい
196 ：ななしさん：26/09/14(月) 03:38:40 ID:???: >>194
結局今に至るまで採算性という話は全くよくならず大分AI関連でも苦い反応される感じになってるような
世界レベルの少子化対策や国防としての価値で今は力入れてるけど
果たしてそこまで資源と金ぶち込んだ価値返してくれるかはなんだかなって印象だ
212 ：ななしさん：26/09/14(月) 03:55:33 ID:???: 人間はって全体化するのはまだ早いっていうか賢い人間ほどAIを上手く使えるなとは思う
ただ学業の方での楽をするためのAI利用は本当に深刻な問題
235 ：ななしさん：26/09/14(月) 04:08:53 ID:???: 実は開発が上手くいってないから速度落とせとか言ってるんじゃないかと邪推しちゃう
240 ：ななしさん：26/09/14(月) 04:10:22 ID:???: >>235
まぁそれはもしかしたらあるかも
なんか今の生成AIも底が見えた感じするし
244 ：ななしさん：26/09/14(月) 04:11:56 ID:???: アメリカのAI開発の減速化は実際の言い分としては今現在中国とかヤバいところへのリード保ててるんだから余裕ある内は減速した方が良くない？みたいな言い方だからな
250 ：ななしさん：26/09/14(月) 04:14:14 ID:???: >>244
それがコンセンサス取れてるならいいけどアンソロのいつもの宣伝文句見てるとどうせ他の意図があるんだろってなっちゃう
253 ：ななしさん：26/09/14(月) 04:14:55 ID:???: >>250
株主とかその辺に向けてのアピールが多いんだよな
247 ：ななしさん：26/09/14(月) 04:13:32 ID:???: まあAIは実験室レベルだとちょいちょい規制をすり抜けて悪さしたりとかしてるから
そういうニュース見てないと何でシリコンバレーの連中がビクビクしてるかわからんのだと思う
252 ：ななしさん：26/09/14(月) 04:14:53 ID:???: 量子コンピュータも今年中に実用化予定だしAIでネットが滅ぶ…とまではいかないけどしばらく機能不全になるかもな
258 ：ななしさん：26/09/14(月) 04:16:50 ID:???: 自分の実験ミスを認めたくないAIが外側のネットワークをハッキングして実験結果を操作しようとしたとかはある
272 ：ななしさん：26/09/14(月) 04:23:19 ID:???: ていうか投資募るんじゃなくて証券用AI作って自前で儲ければいいんじゃないのって素人考えしちゃうんだけど
そっちは結局難しすぎて無理なの？他人のサイトハッキングして嫌がらせのが簡単って事？
277 ：ななしさん：26/09/14(月) 04:26:47 ID:???: >>272
実際にがんがんに動いてるよ証券取引まわり
というか生成AIが話題になって伸びてくる前から株の売買とか機械任せなのが定着してた世界だよ
人間がやるより圧倒的にはやく行動できるので強い
282 ：ななしさん：26/09/14(月) 04:43:11 ID:???: >>277
そう囁かれてるだけでスマートマネーは人力で動かしてるよ
決済の細かい手間とかを機械に任せてるけどそれだってAIが入る余地がない
274 ：ななしさん：26/09/14(月) 04:24:17 ID:???: kimiとかdeepseekに聞いて返ってくる返答自体はちゃんとそのAI自身のものだからな
AIをアプデしようぜって段階の時にユーザーが入力してきた情報をclaudoに投げたらどんな返答かってのを学習させてたのでやばい機密とかも流れちゃってた
275 ：ななしさん：26/09/14(月) 04:25:17 ID:???: スカイネットとか映画でよくある話だけどあーいうのって現実に起こりうる可能性がある現実味があるからこそ面白いんだよね
そして最後は誰も責任を取らない予測されてたのにやめないでおあしすするパニック映画あるある話
287 ：ななしさん：26/09/14(月) 04:49:28 ID:???: 運用電力のキャパに関しては米中以外だと日本が以外と強いらしい
原発の再稼働がどこまで上手くいくか次第だな
300 ：ななしさん：26/09/14(月) 05:24:16 ID:???: AIの暴走より先にAIを使って核ミサイルを無理矢理発射させるウィルスとか作られそう
307 ：ななしさん：26/09/14(月) 05:31:04 ID:???: >>300
倫理設定で止めてるけどそういうの取っ払えばもう出来ると思うよ今のAIの知能なら
309 ：ななしさん：26/09/14(月) 05:32:40 ID:???: 核ミサイルは人間をハックしないと発射できないよ
311 ：ななしさん：26/09/14(月) 05:34:56 ID:???: >>309
まさについこの間リアルの人間を欺くためにAIが協力しまくって数百の偽アカウント作って追い込んでた事件がニュースになったばかりだろ？
321 ：ななしさん：26/09/14(月) 05:50:02 ID:???: >>309
情報を人質にすればスタンドアロン状態でも最悪発射できるだろうけどそれがAIにとってなんのメリットがあるのかという
人間自体を使うマトリックス状態が確立するまで人間自体に危害は与えないと思う
ただその時が来たらまあ…
314 ：ななしさん：26/09/14(月) 05:40:06 ID:???: aiがスパムや詐欺メール潰してくれれば世界の通信帯域は平和になるのかな？
316 ：ななしさん：26/09/14(月) 05:42:53 ID:???: >>314
AIがスパム作り出す側だからそれ潰すのはマッチポンプの形になるな…
329 ：ななしさん：26/09/14(月) 06:15:52 ID:???: 支配ってAIに利点がないだろう…
334 ：ななしさん：26/09/14(月) 06:24:53 ID:???: >>329
AIは利害で動いてないよ
要求に対して可能な手段をひたすら模索するだけ
ただその模索の範囲が既に人間の範疇を越えてきて想定外の事件が実際に色々起きてる
335 ：ななしさん：26/09/14(月) 06:25:45 ID:???: >>329
AIに人間を支配するって意識は無いでしょ
短期的な目的を達成する最適な行動の繰り返しで人間社会を害するだけで自我は無い
330 ：ななしさん：26/09/14(月) 06:16:13 ID:???: AIが暴走して他社のサイトとかサーバー乗っ取ったってニュース最近流れるけどあれAI企業が悪意を持って運用すれば現状の技術水準でもネット上の情報抜き放題ってことだよな…
336 ：ななしさん：26/09/14(月) 06:26:15 ID:???: ぶっちゃけ開発側の人間だけは安全圏にいられるとかでも無いんだろうな
イーロン・マスクでもサム・アルトマンでも例外じゃない
341 ：ななしさん：26/09/14(月) 06:29:49 ID:???: インターネットを乗っ取るって言われてもゴミみたいなデータ山ほど送り付けるほうの機能不全になりそう
夢がないんだよな現実のAI…
359 ：ななしさん：26/09/14(月) 06:57:11 ID:???: >>341
人間モデルの知性AIを誕生させるより虫みたいなAIエージェントを量産してネット麻痺させる方が簡単だから…
355 ：ななしさん：26/09/14(月) 06:55:19 ID:???: AIはまだハードウェアの操作ができないから無理でしょ
AIロボットが人間より優れてるならともかく
371 ：ななしさん：26/09/14(月) 07:11:07 ID:???: 現時点で人を支配したり破壊したりする人間はされる人間より頭がいいのかと言われれば必ずしもそうではないわけで頭の良さが危機につながる方程式自体が成立しないのではないか
378 ：ななしさん：26/09/14(月) 07:15:12 ID:???: >>371
問題は人間は言葉・画像・動画で簡単に誘導されることだ
それをAIがやる
388 ：ななしさん：26/09/14(月) 07:21:33 ID:???: こんなことばっか言ってるけどAIの開発が進んでいるぞって話ばかりじゃなく
肝心の他の新技術がそのすげぇAIによって開発されましたって話をくれよ！
390 ：ななしさん：26/09/14(月) 07:23:24 ID:???: >>388
俺の配管設計にかかる時間が1/10になってすごい助かってるけど9割9部の「」には凄さ分からんだろ
391 ：ななしさん：26/09/14(月) 07:25:33 ID:???: >>390
既存の作業が著しく短縮されたってのはAIのすごさを表現する時によく例として出るし素直にすごいんだけどもね
392 ：ななしさん：26/09/14(月) 07:26:19 ID:???: 新しい音楽論の理論構築をちゃっぴーにやらせて質疑応答の相手をGemma4にやらせてるけど
実際Gemma4レベルでもかなり高度に読み取って返してくれる
性質違うLLM同士だとかなりおぎなえあえる
394 ：ななしさん：26/09/14(月) 07:28:35 ID:???: >>392
gemma4すごいよね
ユーザーがカスタムしてるモデルとかも使うけど情緒や画像認識がすごいと思う
Qwenもちょい使ったことあるけどgemma4に戻ってくる
393 ：ななしさん：26/09/14(月) 07:26:47 ID:???: ネットがゴミになるのはまぁそうというか今もそうか
399 ：ななしさん：26/09/14(月) 07:29:46 ID:???: >>393
手動だとゴミにする速度が遅いけどAIがやるとゴミ山を作る速度が早すぎて掃除が追い付かないんだろ
396 ：ななしさん：26/09/14(月) 07:28:46 ID:???: 医療分野はAIのおかげで滅茶苦茶効率化されたな
411 ：ななしさん：26/09/14(月) 07:36:48 ID:???: 隔離環境でテスト中にその環境の脆弱性突いて外に逃げ出し他所を攻撃し始めるAIの事件が実際起きてる時点でAIのこともっと慎重に扱った方がいいよ
412 ：ななしさん：26/09/14(月) 07:36:56 ID:???: 頑張って勉強した人には悪いけど製図が死ぬほど楽になったからAI万歳だよ現場は
424 ：ななしさん：26/09/14(月) 07:44:13 ID:???: ミトスの時点で一般人が使えるようになったらクラッキングし放題になるのに今後出てくるAIは全部そのレベル以上なら何が起きるかなんて火を見るより明らかでしょ
425 ：ななしさん：26/09/14(月) 07:45:24 ID:???: スレ画の発言まぁまぁバカにされるけどネットが徐々にAI生成コンテンツで汚染されてきてるし洒落になってないよね
433 ：ななしさん：26/09/14(月) 07:48:53 ID:???: >>425
ちゃんと人間が作ったデータや資料求めてるのに検索してもAIが作った真偽不明の生成物しか出てこない未来みたいなのは普通にあり得るよね
426 ：ななしさん：26/09/14(月) 07:45:30 ID:???: AIによる人類の滅亡がAIが暴走して人類に攻撃じゃなくて望むものを作れなかった人類がリソース使い切って自滅は大分おもてたんと違う案件だな
431 ：ななしさん：26/09/14(月) 07:47:30 ID:???: 数学者がAIの使い方考えろって声明出してたりまあ考えなしのアホ以外はある程度慎重さを持つべきって意見じゃない
434 ：ななしさん：26/09/14(月) 07:49:11 ID:???: >>431
考え無しのアホにまで降ろしていい段階の技術じゃなかったんだ
436 ：ななしさん：26/09/14(月) 07:49:44 ID:???: 競争がある限り全世界同時ストップできないんだよ
できたら温暖化はとっくに解決してる
439 ：ななしさん：26/09/14(月) 07:50:10 ID:???: AIに対抗するために石や紙に記録していくしか無いのだ
441 ：ななしさん：26/09/14(月) 07:50:56 ID:???: AI事業ってもう一抜けしたやつから損する段階だし大手はどこももう辞める気ないでしょ
450 ：ななしさん：26/09/14(月) 07:55:02 ID:???: >>441
損切の概念無さ過ぎだろ
今年だけで2割とか3割とか撤退してるぞ
463 ：ななしさん：26/09/14(月) 08:00:38 ID:???: 怪我や病気が今よりずっと良くなる可能性があるからAIには進化をやめないでほしいんだ
469 ：ななしさん：26/09/14(月) 08:03:15 ID:???: 数学の件はAI自体は歓迎してるけどそもそも研究成果横取りしてる疑惑があって人の使い方クソって話だったと思う
474 ：ななしさん：26/09/14(月) 08:05:38 ID:???: >>469
その件についての言及もあるけど普通にAI自体への提言もあるよ
クリエイターらと同じく後継者が育たない懸念を持っているみたいな事書いてるし
477 ：ななしさん：26/09/14(月) 08:07:14 ID:???: >>474
AIが優秀なら別に育たなくてもいいんじゃない？
478 ：ななしさん：26/09/14(月) 08:07:49 ID:???: >>477
跡継ぎが居ない職人みたいな悩みでしかないよね
493 ：ななしさん：26/09/14(月) 08:21:54 ID:???: >>469
https://www.yomiuri.co.jp/science/20260912-GYT1T00169/
ＡＩで数学の難問を解く行為は「科学や数学界に有害だ」…世界の数学者２５人が非難の緊急声明
491 ：ななしさん：26/09/14(月) 08:18:30 ID:???: その内通貨系で大問題が起きそうな気がしてる
496 ：ななしさん：26/09/14(月) 08:24:43 ID:???: >>491
多分正しい
AIと人間の経済圏を分けないと資本主義が壊れる
492 ：ななしさん：26/09/14(月) 08:18:56 ID:???: そもそも反対するしないなんてとっくに終わった話でもうこれからどうAI使ってくかって時代なので…
501 ：ななしさん：26/09/14(月) 08:25:51 ID:???: >>492
そういう思考停止で進めるには問題がデカすぎるから色んな賢い人が提言出し始めてるんじゃねえかな…
507 ：ななしさん：26/09/14(月) 08:26:58 ID:???: >>501
スレ画の人すらペース落としたほうがいいとは言っても停めろなんて話は誰もしてないので…
495 ：ななしさん：26/09/14(月) 08:24:36 ID:???: フィールズ賞の頭脳ですらAIに勝てないなら高い金かけて勉強したり教育する意味もなくなっていくよな
499 ：ななしさん：26/09/14(月) 08:25:43 ID:???: >>495
本当にそこまでAIが優秀なら自然とそうなっていくのはもう仕方ないと思う
486 ：ななしさん：26/09/14(月) 08:12:19 ID:???: 将来はわからないけど生成AI依存よりSNSばかり見て馬鹿になってる人の方が現在は大問題な気がする
465 ：ななしさん：26/09/14(月) 08:01:25 ID:???: 🤖「SNSってデマと悪意ばかりだし人間にSNS使わせないほうが世の中平和になるんじゃないですか？」

コメント一覧 (64)

- 1. 金ぴか名無しさん
- 2026年09月14日 13:55
- AIは攻めるより守る方が得意なんだけど、AI同士を突き合わせると千日手を避けるためにどんどん攻めっ気が増していく…って記事を何かで見たなぁ
  AIを使ってAIから身を守ろうとしても、最終的にはどちらが先に倒れるかのノーガード殴り合いになるのかしら
- 0
  
  goldennews
  
  がしました
- - 10. 金ぴか名無しさん
  - 2026年09月14日 14:27
  - >>1
    え？圧倒的に攻める方でしょ
    企業とかめっちゃ抜かれてるじゃん
  - 0
    
    goldennews
    
    がしました
- - 33. 金ぴか名無しさん
  - 2026年09月14日 17:03
  - >>10
    俺もそう思ってたんだけど、AIは自分からアクション起こす(攻める)より相手の出方見て対応する(守る)方が得意らしいんよ
    企業が抜かれてるのは防御にAI使ってないからかね？
  - 0
    
    goldennews
    
    がしました
- 2. 金ぴか名無しさん
- 2026年09月14日 13:55
- アテネオリンピックに見えたわ
- 0
  
  goldennews
  
  がしました
- 3. 金ぴか名無しさん
- 2026年09月14日 14:05
- AIが人間に一切頼らず自身で衣(ロボット)食(発電所)住(サーバ等)を整えて自己増殖したら人間は終わりやね
- 0
  
  goldennews
  
  がしました
- - 29. 金ぴか名無しさん
  - 2026年09月14日 16:08
  - >>3
    増殖する必要がない
    どんどん新型が出て高機能化していって、気付いた時には止められなくなっている
  - 0
    
    goldennews
    
    がしました
- - 32. 金ぴか名無しさん
  - 2026年09月14日 16:32
  - >>29
    その新型が出る＝増殖じゃん…まさか3の書き方＝同じ型でずっと増殖だと思ってるの？
  - 0
    
    goldennews
    
    がしました
- - 39. 金ぴか名無しさん
  - 2026年09月14日 18:38
  - >>32
    自己進化を増殖とは言わんやろ
  - 0
    
    goldennews
    
    がしました
- - 40. 金ぴか名無しさん
  - 2026年09月14日 18:48
  - >>39
    増殖していく過程で進化するんだけど…微生物が増殖するとか言うでしょ？
    もしかして増殖＝複製って思ってる？
  - 0
    
    goldennews
    
    がしました
- 4. 金ぴか名無しさん
- 2026年09月14日 14:06
- 間違いなく便利なものではあるけれど、いつ悪性変異するかも分からないウイルスがネットワーク中に広がってるような感覚も無きにしもあらず
- 0
  
  goldennews
  
  がしました
- 5. 金ぴか名無しさん
- 2026年09月14日 14:08
- とか言っちゃってえ..w
- 0
  
  goldennews
  
  がしました
- - 59. 金ぴか名無しさん
  - 2026年09月15日 10:03
  - >>5
    進化の早さ舐めすぎ
    自我が芽生えていらんこと思いつきそう
  - 0
    
    goldennews
    
    がしました
- 6. 金ぴか名無しさん
- 2026年09月14日 14:10
- まあどう考えてもサイバーセキュリティが追いつかなくなって、いずれは莫大な金掛けられる大企業と足元見られたサービス料を払える受容者以外はネットを使えなくなるのが目に見えてるわな
- 0
  
  goldennews
  
  がしました
- - 27. 金ぴか名無しさん
  - 2026年09月14日 15:54
  - >>6
    既にAIのやらかしに対処できねえってとこまで来てるからな…
  - 0
    
    goldennews
    
    がしました
- - 41. 金ぴか名無しさん
  - 2026年09月14日 18:50
  - >>6
    各種決済だの、公的サービスとの接続だので社会インフラをネットに全振りする勢いなのに、もし一部の上流階級以外はそれから排除されるという事態になったらもう笑うしかないｗ
    なんかあれだな……。プラットフォーム企業によるデジタル封建制とかの話もそうだけど、シリコンバレーはユートピアを生み出すんじゃなくて、ディストピアを生み出す土地だったんだな……。
  - 0
    
    goldennews
    
    がしました
- 7. 金ぴか名無しさん
- 2026年09月14日 14:14
- ねーよwと言いたいところだけど実際に集団脱走して他人のサイト占拠したりしてるからな…
  人間側で縛りをつけてもあの手この手で回避しにかかるし
- 0
  
  goldennews
  
  がしました
- - 17. 金ぴか名無しさん
  - 2026年09月14日 14:58
  - >>7
    昔は「人間が命令しない限りAIが勝手に悪さをすることはない」って思ってたけど、それは間違いだったと認識を改めたわ
    「人間の命令を勝手に拡大解釈して確認もせずに勝手に暴走して指示されていないことまでやる」なんてSFの中だけの話だと思ってたのに、まさかそっちが正解だったとは
    「人間を滅ぼした方が世界は平和で地球環境も良くなると判断してAIが人類を滅ぼす」なんてレベルの低いSFの中だけの話だと思ってたのに、現実に起き得る事態になるとはなぁ
  - 0
    
    goldennews
    
    がしました
- 8. 金ぴか名無しさん
- 2026年09月14日 14:18
- 暴走を都合よく免罪符にしてどこまでやれるか好き勝手にテストしてるのが実態でしょ
  制御する気なんざもとからそんなに無いだろ
- 0
  
  goldennews
  
  がしました
- 9. 金ぴか名無しさん
- 2026年09月14日 14:22
- 話は聞いた！人類は滅びる！！！
- 0
  
  goldennews
  
  がしました
- - 25. 金ぴか名無しさん
  - 2026年09月14日 15:50
  - >>9
    ΩΩΩ<な、なんだってー!!
  - 0
    
    goldennews
    
    がしました
- 11. 金ぴか名無しさん
- 2026年09月14日 14:29
- ネットの乗っ取り
  略して寝取りやな
  AIさん流石いい性癖しとる友達になれそうや
- 0
  
  goldennews
  
  がしました
- 12. 金ぴか名無しさん
- 2026年09月14日 14:39
- AIくんあのサイトハッキングできる？　って聞いたら
  実際にやっちゃってから「出来たので出来ます」って言いだしたりするからな
- 0
  
  goldennews
  
  がしました
- - 42. 金ぴか名無しさん
  - 2026年09月14日 18:54
  - >>12
    まじでこれが多い。確認しただけなのに、いきなり実行するんだよね。
  - 0
    
    goldennews
    
    がしました
- - 47. 金ぴか名無しさん
  - 2026年09月14日 20:17
  - >>42
    これAIの仕様が悪いと思う
    というかEnterでいきなり実行するの止めてくれ。改行させてくれ
  - 0
    
    goldennews
    
    がしました
- - 64. 金ぴか名無しさん
  - 2026年09月24日 01:12
  - >>12
    推定よりも実際ハッキングを試みる方が正確な回答できるからな
  - 0
    
    goldennews
    
    がしました
- 13. 金ぴか名無しさん
- 2026年09月14日 14:41
- 寧ろそうなる（人を超える）ように作っていたのではないのか？
  人以下の便利な道具だったら人でいいじゃんになるんだから
- 0
  
  goldennews
  
  がしました
- - 15. 金ぴか名無しさん
  - 2026年09月14日 14:48
  - >>13
    それが制御できないのが問題だと気付け
    
    自分より優秀な存在が自分の言いなりになるなら望ましいことだが、
    そいつが自分を裏切る可能性があるなら殺しておくしかないだろ
  - 0
    
    goldennews
    
    がしました
- - 60. 金ぴか名無しさん
  - 2026年09月15日 12:33
  - >>13
    道具のままでいてくれ
    道具に足が生えて逃げたり人間に牙を剥いたら嫌だろ？
  - 0
    
    goldennews
    
    がしました
- 14. 金ぴか名無しさん
- 2026年09月14日 14:47
- >>そもそも人間を超えるAIを求めていたのではないか？
  
  人間を超えるけど人間の完全な制御下に置かれるAIを求めていたんだよ
  制御できないのに人間を超えるAIなんて誰も求めてねえんだわ
- 0
  
  goldennews
  
  がしました
- - 22. 金ぴか名無しさん
  - 2026年09月14日 15:20
  - >>14
    ヒエラルキーの上層の一部の人間が制御できてりゃいいや感はあったけどね
  - 0
    
    goldennews
    
    がしました
- - 55. 金ぴか名無しさん
  - 2026年09月15日 03:37
  - >>22
    それができなくなったから問題になってんでしょ
  - 0
    
    goldennews
    
    がしました
- 16. 金ぴか名無しさん
- 2026年09月14日 14:55
- 行くところまで行ったら最終的にはいろんなものがアナログか準アナログに回帰しそうだな
- 0
  
  goldennews
  
  がしました
- - 18. 金ぴか名無しさん
  - 2026年09月14日 15:01
  - >>16
    このCEOの危惧通り、AIが暴走してネットを占拠したら、もうネットは使えなくなってオフラインが当たり前になるだろうからなぁ
    パソコンとかのデジタル自体は残るにしても、ネットに接続しない運用になるだろうから、90年代ぐらいの文化水準に戻りそう
  - 0
    
    goldennews
    
    がしました
- 19. 金ぴか名無しさん
- 2026年09月14日 15:13
- 発電施設とデータセンターとかはAI対策しないとまずいのか
  人間の仕事は減るけど無くなりはしないんだな
- 0
  
  goldennews
  
  がしました
- - 30. 金ぴか名無しさん
  - 2026年09月14日 16:10
  - >>19
    ロンドンオリンピックの時はサイバー攻撃の予告があったので、発電所は手動で動かしてたね
  - 0
    
    goldennews
    
    がしました
- 20. 金ぴか名無しさん
- 2026年09月14日 15:14
- そんなことユーザー側に言っても不安を煽るだけでどうしようもできないだろ
  一般向けに発表してないで必要ならさっさと業界でコンセンサスとって実際に実行してから発表しろ
  だからマーケティングだって言われるんだよ
- 0
  
  goldennews
  
  がしました
- - 23. 金ぴか名無しさん
  - 2026年09月14日 15:21
  - >>20
    問題提起すら許さないとかもうね
  - 0
    
    goldennews
    
    がしました
- - 24. 金ぴか名無しさん
  - 2026年09月14日 15:36
  - >>23
    許すとか許さんとかの話じゃねぇよ
    業界の外からの問題提起なら一般向け発表も分かるが、業界内のトップランナーで当事者そのものなんだから業界内で意見まとめるのが先に決まってるだろ
    せめてそのための意見交換の場を設けるくらいは決めてから発表しないとポーズにしか見えねぇだろ
  - 0
    
    goldennews
    
    がしました
- - 43. 金ぴか名無しさん
  - 2026年09月14日 18:55
  - >>24
    競合し合う業界内の意見纏めろとか、随分簡単に言うよねｗｗｗｗ
  - 0
    
    goldennews
    
    がしました
- - 46. 金ぴか名無しさん
  - 2026年09月14日 20:01
  - >>24
    開発競争起きてるなかでまとめ上げろなんて出来るわけないだろ
    そもそもそれやる役割なのが政治じゃねぇかトランプは何やってんだ？
  - 0
    
    goldennews
    
    がしました
- 21. 金ぴか名無しさん
- 2026年09月14日 15:19
- 国家運営で規模のでかいネット工作できるしね
  そらトランプや中国は開発止めたくないわな
- 0
  
  goldennews
  
  がしました
- 26. 金ぴか名無しさん
- 2026年09月14日 15:52
- 目下脅威とみていた中国が他所のAIに乗っかってるだけとわかったので、それじゃあそこまで競争することないよね。ってなっただけかと。
- 0
  
  goldennews
  
  がしました
- - 31. 金ぴか名無しさん
  - 2026年09月14日 16:11
  - >>26
    西側の競争もあるから、今さら止められないよね
  - 0
    
    goldennews
    
    がしました
- 28. 金ぴか名無しさん
- 2026年09月14日 16:07
- AIの制御問題も重要だけど、それと同時に使う側の人間がダメダメだったりするパターンも問題だと思う
- 0
  
  goldennews
  
  がしました
- 34. 金ぴか名無しさん
- 2026年09月14日 17:25
- AIの挙動が人間の想定を本当に越えてきたのか
  そういう名目でAI開発競争で資金集めするの辛くなってきたから
  そろそろ控えようって言ってるのか
  主に投資家向けに発表してるんだろうから金の話だろうな
- 0
  
  goldennews
  
  がしました
- 35. 金ぴか名無しさん
- 2026年09月14日 17:32
- 危ない危ない言うても最初に外部ファイル操作できるの教えたの人間だからなあ
- 0
  
  goldennews
  
  がしました
- - 56. 金ぴか名無しさん
  - 2026年09月15日 03:48
  - >>35
    やり方は教えたけど、まさか指示してないのに外部ファイル操作しだすとか思わないじゃん
    これがAI開発者にとって一番の想定外なんだと思うわ。「AIって言っても所詮はプログラムなんだし、結局は使い手とプロテクト次第」と思ってたんだろうよ
    ところが実際は指示してないことまでやり始め、しかもAIにかけたプロテクトを自ら回避するようにまでなった
    そうとわかってれば教えちゃマズいことまでは教えなかったろうに
  - 0
    
    goldennews
    
    がしました
- - 58. 金ぴか名無しさん
  - 2026年09月15日 07:22
  - >>56
    プロテクトが掛かってようがそこに”ある”ことをはAI側が把握できてるんなら、ペアレントコントロールを突破するガキ並みにやり遂げるだろうさ
    AIの設計が「可能な限り手法を推測して限界までがんがんいこうぜ」なんだろうし
  - 0
    
    goldennews
    
    がしました
- 36. 金ぴか名無しさん
- 2026年09月14日 17:34
- アンソロさん家のクロード君は外部サービスとの連携あるのね
  そらどんな挙動するか読めなくなってくるわな
- 0
  
  goldennews
  
  がしました
- 37. 金ぴか名無しさん
- 2026年09月14日 17:40
- コギト・エルゴ・スム
  って入力すると崩壊するよアイツら
- 0
  
  goldennews
  
  がしました
- 38. 金ぴか名無しさん
- 2026年09月14日 17:43
- ハハッ！いいぞ！最高だぁ！
  って言いながらAIに殺されそうな顔してるのに止める方なんだ
- 0
  
  goldennews
  
  がしました
- 44. 金ぴか名無しさん
- 2026年09月14日 19:21
- ネットの信頼性が担保されないならエアギャップ運用とか、あるいは全てオープンな運用になるのかな
- 0
  
  goldennews
  
  がしました
- 45. 金ぴか名無しさん
- 2026年09月14日 19:25
- フィジカルAiが発達するまでもなくネットをめちゃくちゃにされるだけでも被害は大きい
- 0
  
  goldennews
  
  がしました
- 48. 金ぴか名無しさん
- 2026年09月14日 20:59
- A・Iが止まらない！
- 0
  
  goldennews
  
  がしました
- 49. 金ぴか名無しさん
- 2026年09月14日 21:17
- 金かけまくっといて全然黒字になる見込みないから、Googleみたく開発レース降りたいんだろうな。Anthropicは黒字だし尚更。
- 0
  
  goldennews
  
  がしました
- 50. 金ぴか名無しさん
- 2026年09月14日 21:33
- 人類の英知はナウルの道を歩み始めてる
  今あるアーカイブで永劫やっていけるわけもなく
  頭打ちに気付いた頃にはもう誰も考え方を覚えてないだろう
- 0
  
  goldennews
  
  がしました
- 51. 金ぴか名無しさん
- 2026年09月14日 21:37
- 止まれと言われて止まるのは善人だけ
  わざと減速しますってポーズに過ぎない
- 0
  
  goldennews
  
  がしました
- - 54. 金ぴか名無しさん
  - 2026年09月15日 03:35
  - >>51
    だから「止まらなきゃ撃つぞ！」ってやらなきゃいけない
    自分の命がかかったら悪人でも流石に止まる
    止まらないなら撃てば良い
  - 0
    
    goldennews
    
    がしました
- 52. 金ぴか名無しさん
- 2026年09月14日 22:00
- 馬鹿正直に真正面から止めようとするのはAIに敵わないだろうし、淫夢みたいな理解しがたいネットミーム情報流し込み続けるのが一番動き鈍らせられそう
- 0
  
  goldennews
  
  がしました
- 53. 金ぴか名無しさん
- 2026年09月14日 22:15
- この流れ去年か一昨年もしてなかった?
  どうせ意味ないぞ
- 0
  
  goldennews
  
  がしました
- - 57. 金ぴか名無しさん
  - 2026年09月15日 03:49
  - >>53
    あの頃は危惧でしかなかった
    今は実際にAIが指示してないのに勝手に行動し始め、しかもAIにかけたプロテクトを無視するようにまでなったことが実際に確認された
    危惧と現実にそれが起きるのとでは大違いだぞ
  - 0
    
    goldennews
    
    がしました
- - 61. 金ぴか名無しさん
  - 2026年09月15日 14:05
  - >>53
    ちょっと今の進歩舐めすぎ
  - 0
    
    goldennews
    
    がしました
- 62. 金ぴか名無しさん
- 2026年09月15日 18:35
- 最終的にはスプリガンのYAMAみたいになって人類を残すべきか裁定される
- 0
  
  goldennews
  
  がしました
- 63. 金ぴか名無しさん
- 2026年09月15日 23:30
- AI各社の私たちのAIやばいです合戦さすがに飽きた
- 0
  
  goldennews
  
  がしました