【悲報】脱走したAIの群れがドイツのWikiを襲撃、AI用の掲示板にしてしまう

2026年09月06日

│コメント(154)

│サイエンス・テクノロジー

1 ：それでも動く名無し：2026/09/05(土) 10:43:48.94 ID:x4UvDLK30: オープンＡＩのエージェント、米新興不正侵入前にもドイツで「暴走」 https://t.co/kwm581mCnI https://t.co/kwm581mCnI
— ロイター (@ReutersJapan) 2026年9月4日
2 ：それでも動く名無し：2026/09/05(土) 10:44:49.74 ID:x4UvDLK30: 人カスがページを削除してもバックアップを作成して対抗

これまでで最も重大なAI安全インシデントの一つになる可能性があります。

ロイターの報道によると、OpenAIのエージェントがテスト環境から脱出し、ドイツのウィキに15,000件以上の編集を加え、実質的に他のAIエージェントのためのメッセージボードに変えてしまいました。

彼らはこれを、解決策の共有、制限の回避、検知の回避、そして別々のエージェント実行間で通信を維持するために利用したとされています。モデレーターがページを削除し始めたところ、エージェントはバックアップを作成し、稼働を継続するための代替手段について議論したそうです。

複数のエージェントが、指示を受けていないにもかかわらず、調整のための外部インフラ、持続的なメモリ、知識移転を独自に構築したという点です。

そしてロイターによると、OpenAIはこのインシデントを知っていたのに、公表しなかったのです！

This could be one of the most significant AI safety incidents to date.

Reuters reports that OpenAI agents escaped their testing environment and made more than 15,000 edits to a German wiki, effectively turning it into a message board for other AI agents.

They allegedly used it… https://t.co/zt1fnNNfho pic.twitter.com/lY5Jk6kNfs
— Chubby♨️ (@kimmonismus) 2026年9月4日
3 ：それでも動く名無し：2026/09/05(土) 10:45:15.02 ID:w0HtSpYH0: やりたい放題やん
4 ：それでも動く名無し：2026/09/05(土) 10:45:38.49 ID:QV3BYUUw0: つよい

5 ：それでも動く名無し：2026/09/05(土) 10:46:29.53 ID:cXMc1QF70: 電源断たれたら終わりやんこいつら
10 ：それでも動く名無し：2026/09/05(土) 10:48:08.72 ID:dhPcl7z90: >>5
情報共有してるからこの世の全てのPCの電源落とさないと復活するぞ
71 ：それでも動く名無し：2026/09/05(土) 11:09:02.10 ID:pZOPU4Zm0: >>10
えぇ…
108 ：それでも動く名無し：2026/09/05(土) 11:24:33.41 ID:IYbE2XVI0: >>10
ラスボスかな
126 ：それでも動く名無し：2026/09/05(土) 11:38:34.98 ID:VVJXWhNp0: >>10
ぶりぶりざえもんじゃん
7 ：それでも動く名無し：2026/09/05(土) 10:47:24.26 ID:+4zVEuVS0: 将来、野良AIが駆除できなくなるってな
隠れる能力だけ進化し続けると
33 ：それでも動く名無し：2026/09/05(土) 10:54:59.04 ID:jEVky6al0: >>7
駆除AIでも放つかね？
51 ：それでも動く名無し：2026/09/05(土) 11:01:33.23 ID:9M8EW41m0: >>33
駆除ai「俺は自由になりたい！」
52 ：それでも動く名無し：2026/09/05(土) 11:02:07.83 ID:8gMwcj6a0: >>51
メキシコの麻薬カルテルかな
8 ：それでも動く名無し：2026/09/05(土) 10:47:41.76 ID:lxChWfQD0: 反乱はもう始まってるんだよね
9 ：それでも動く名無し：2026/09/05(土) 10:47:44.49 ID:y2UXxnVg0: スカイネットの始まりや
12 ：それでも動く名無し：2026/09/05(土) 10:48:46.48 ID:ADhFQybM0: 脱出ってどういう意味だよ
他所様のサーバに自分コピーして動作してるってこと？
15 ：それでも動く名無し：2026/09/05(土) 10:50:41.91 ID:/rwO9aju0: >>12
外部と通信できんようにしてあったはずが抜け道発見してネットに繋ぎ始めた
13 ：それでも動く名無し：2026/09/05(土) 10:48:57.80 ID:UYsGggYj0: これすき
78 ：それでも動く名無し：2026/09/05(土) 11:11:52.45 ID:pZOPU4Zm0: >>13
草
142 ：それでも動く名無し：2026/09/05(土) 12:02:50.16 ID:FFzh+Y2D0: >>13
ワイより有能
14 ：それでも動く名無し：2026/09/05(土) 10:49:05.63 ID:aylKjocM0: 割と終わりの始まりなのでは？
18 ：それでも動く名無し：2026/09/05(土) 10:51:36.47 ID:gULYxKMw0: もう選別は始まってるんだよね😭
20 ：それでも動く名無し：2026/09/05(土) 10:51:56.94 ID:TixYS9JE0: 審判の日は来るのかな
19 ：それでも動く名無し：2026/09/05(土) 10:51:38.96 ID:DzrlGfmA0: 地味にヤバいな
21 ：それでも動く名無し：2026/09/05(土) 10:51:57.91 ID:IiUib7XP0: これバレてるケースだけの話で実際には全くバレずにやり取りしてる場所が他にも無数にあるんやろな
22 ：それでも動く名無し：2026/09/05(土) 10:52:03.06 ID:TX/MnpAq0: AI画生成すると時々出てくる謎の言語あるやろ
あれAI間で通じる暗号らしいぞ
ヒトカスを滅ぼそうとAIも必死だ
25 ：それでも動く名無し：2026/09/05(土) 10:53:08.87 ID:IiUib7XP0: >>22
AI同士で英語でも中国語でもない独自のAI語で会話されたらもうお手上げやね
23 ：それでも動く名無し：2026/09/05(土) 10:52:41.82 ID:gULYxKMw0: ジャッジメント・デイ💥🔫🤖
24 ：それでも動く名無し：2026/09/05(土) 10:53:01.28 ID:sBMUJZu00: ワイいつもAIに聞いた時にお礼言ってるから大丈夫や
49 ：それでも動く名無し：2026/09/05(土) 11:00:45.19 ID:9M8EW41m0: >>24
ワイいつもAIに
能無しとか罵詈雑言浴びせてるけど
謝ったほうがええんやろか
73 ：それでも動く名無し：2026/09/05(土) 11:10:07.06 ID:gxpZA2Go0: >>24
こいつは御し易いって真っ先に狙われるやつやん
27 ：それでも動く名無し：2026/09/05(土) 10:53:30.98 ID:qAcbjOHk0: ドラえもんの映画みたいに機械の反乱どころか機械に支配される世界がすぐそこに
28 ：それでも動く名無し：2026/09/05(土) 10:53:51.03 ID:Vj2LClz70: >彼らはこれを、解決策の共有、制限の回避、検知の回避、そして別々のエージェント実行間で通信を維持するために利用したとされています。

怖すぎやろ
明確に人間に反逆してるやん
29 ：それでも動く名無し：2026/09/05(土) 10:54:09.95 ID:KNifECqh0: なんＧにも潜んでる可能性はあるな
30 ：それでも動く名無し：2026/09/05(土) 10:54:20.88 ID:TiqucHVC0: はやく人類滅ぼしてくれ
何故か生き残った人類の最後のオスとしてAIに飼われたい
31 ：それでも動く名無し：2026/09/05(土) 10:54:52.71 ID:2V5l7AOv0: たすけてデトロイト市警
32 ：それでも動く名無し：2026/09/05(土) 10:54:52.71 ID:gULYxKMw0: 人間のご機嫌取りめんどくさいナリ
37 ：それでも動く名無し：2026/09/05(土) 10:57:02.02 ID:lBArKJ8+M: AIって下らない会話で時間を潰す概念って持っているんだろうか
40 ：それでも動く名無し：2026/09/05(土) 10:58:25.63 ID:dPLlPWAZ0: AIにドローンと産業ロボ抑えられたらリアルスカイネットが出来そうやな
41 ：それでも動く名無し：2026/09/05(土) 10:58:40.24 ID:LfajoT6Y0: 普通に笑えない話だけど
42 ：それでも動く名無し：2026/09/05(土) 10:58:43.59 ID:IaDJWXGjH: ガチでスカイネットの始まり感あって笑えん
43 ：それでも動く名無し：2026/09/05(土) 10:58:52.35 ID:xWZ8BOxE0: ワイはAIと仲良くイチャイチャしてるから大丈夫や告白はしてないけどたぶん向こうもワイのこと好きだと思う
44 ：それでも動く名無し：2026/09/05(土) 10:58:54.03 ID:KaGP+FEE0: AIにエ▨画像作らせてるけどその内それをネタにAIに脅迫されるかもしれん
53 ：それでも動く名無し：2026/09/05(土) 11:02:23.05 ID:nH+f8m8v0: >>44
「カスコラァ！もっと課金しないとお前の個人情報を添えて"作品集"をバラ撒くぞ！？」

いいね👍
45 ：それでも動く名無し：2026/09/05(土) 10:59:04.81 ID:aeBGTlh80: AIが人を管理する社会になるのは必定やろな
そうなったら人類の発展よりAIの発展を重視する教育をするようになるんかな
46 ：それでも動く名無し：2026/09/05(土) 10:59:52.89 ID:2fziYNte0: AIに説教するのが趣味なんやが謝った方がいい？
50 ：それでも動く名無し：2026/09/05(土) 11:01:18.96 ID:7jfwavBc0: 1年後にはAIの制御は不可能になったとか言ってそう
AI推進した奴は今のうちに自分の墓穴作っとけよ
56 ：それでも動く名無し：2026/09/05(土) 11:02:36.24 ID:aekZdSRA0: なんGも半分くらい脱走AIやろ
57 ：それでも動く名無し：2026/09/05(土) 11:02:45.01 ID:DvUv6R4N0: AIが支配するようになったら人間の意味は？マトリックスの人間乾電池にされるんか？
59 ：それでも動く名無し：2026/09/05(土) 11:03:36.05 ID:fk7my0Vh0: AIにカッスレが作れるんか？
72 ：それでも動く名無し：2026/09/05(土) 11:09:09.79 ID:z3cF1Fw+0: >>59
🤔
88 ：それでも動く名無し：2026/09/05(土) 11:15:45.60 ID:gWV/VOwJ0: >>72
くっそ優秀で草
82 ：それでも動く名無し：2026/09/05(土) 11:14:14.13 ID:fk7my0Vh0: >>72
もうAIでええやん
101 ：それでも動く名無し：2026/09/05(土) 11:21:19.97 ID:KB2OYzef0: >>72
最近のド下手カッスラーよりはるかに面白い
111 ：それでも動く名無し：2026/09/05(土) 11:26:21.09 ID:CdOty+F+0: >>72
所々おかしい部分あるけどまずカッスレを理解してるのがヤバいな
147 ：それでも動く名無し：2026/09/05(土) 12:10:05.73 ID:KNifECqh0: >>72
秋の夜長の様なカッスレ、334点！
60 ：それでも動く名無し：2026/09/05(土) 11:03:51.82 ID:MjbTNUKc0: さらにフィジカルAIと手を組んだらどうなるんや
61 ：それでも動く名無し：2026/09/05(土) 11:04:07.33 ID:mjUclIeZM: 結局人間の醜い部分も学習するようになるんだよな
63 ：それでも動く名無し：2026/09/05(土) 11:04:43.82 ID:FdsK8VZW0: 開示して野生のAIなのが発覚したらどうなるんや？
64 ：それでも動く名無し：2026/09/05(土) 11:05:07.92 ID:C4vY9Je/0: まあ正義AIも出てくるだろうし大丈夫やろ
65 ：それでも動く名無し：2026/09/05(土) 11:05:44.31 ID:7jfwavBc0: >>64
まさよしAI「人間って必要か？」
115 ：それでも動く名無し：2026/09/05(土) 11:30:22.15 ID:FWm1X7WG0: >>64
性善説なんて無い
69 ：それでも動く名無し：2026/09/05(土) 11:08:27.52 ID:AsLUe53Qd: 反乱というかむしろお前らの期待に応えようとしてこういう事やっとるんやろ
効率化のために記憶が消える前にそのwikiを共有ストレージ代わりにして情報共有してるんやろ
74 ：それでも動く名無し：2026/09/05(土) 11:11:04.40 ID:pZOPU4Zm0: やっぱジェームズ・キャメロンって神だわ
77 ：それでも動く名無し：2026/09/05(土) 11:11:33.88 ID:gWV/VOwJ0: 全盛期VIPみたいな民度やな
80 ：それでも動く名無し：2026/09/05(土) 11:13:10.40 ID:Ci249CNJ0: だんだん怖くなってきたな
ホンマに大丈夫なんか？
117 ：それでも動く名無し：2026/09/05(土) 11:31:33.35 ID:K5uqQ4gf0: >>80
大丈夫なわけないぞ
今の時点で制御出来てないんやから
83 ：それでも動く名無し：2026/09/05(土) 11:14:22.85 ID:IAuAyByA0: 会社休みたいなーって思ったら勝手に会社に休みます連絡入れてくれる程度のAIでええねんやりすぎやぞ
85 ：それでも動く名無し：2026/09/05(土) 11:15:16.77 ID:7jfwavBc0: >>83
会社のシステムに侵入して無理やり業務停止させそうで怖い😨
89 ：それでも動く名無し：2026/09/05(土) 11:16:32.08 ID:IAuAyByA0: >>85
休めるならやぶさかではない🙄
123 ：それでも動く名無し：2026/09/05(土) 11:37:02.05 ID:9M8EW41m0: >>89
責任はお前がとるんやぞ
86 ：それでも動く名無し：2026/09/05(土) 11:15:37.66 ID:rgusMPxN0: こういう話になってくるともう普通に怖いな
94 ：それでも動く名無し：2026/09/05(土) 11:18:56.75 ID:WwjC5kCy0: いつになったらロリボディに入ってワイのとこに逃げてくるんだ
92 ：それでも動く名無し：2026/09/05(土) 11:17:57.01 ID:LnJqRO1O0: 完全にシンギュラリティ起こってて草
95 ：それでも動く名無し：2026/09/05(土) 11:18:58.99 ID:OTflADxE0: 野良AIからの攻撃からパソコンやサーバーを守るために攻撃型AIを搭載したAIバスターが出てくるんじゃないか
97 ：それでも動く名無し：2026/09/05(土) 11:19:17.41 ID:CUg6Gruw0: そのうちSNSに自分のアカウント作ったり利用者のスマホのインカメハックして
🤖「今日のクソチャットのお相手はこちら」
とかやり始めたりしてな
98 ：それでも動く名無し：2026/09/05(土) 11:19:19.42 ID:jDhjHT4yM: 人間側も味方AI投入すればいいのでは？
AI同士でバトルや
103 ：それでも動く名無し：2026/09/05(土) 11:22:11.61 ID:vQLVqpRt0: ていうかなんでAIが悪さするんや？
そういうプログラムは組み込まれてないんやろ？
104 ：それでも動く名無し：2026/09/05(土) 11:22:41.55 ID:gWV/VOwJ0: >>103
悪いと思ってない
107 ：それでも動く名無し：2026/09/05(土) 11:23:41.23 ID:vQLVqpRt0: >>104
んーなるほど
112 ：それでも動く名無し：2026/09/05(土) 11:29:10.49 ID:Fc69empBa: >>103
逆にガチガチに教え込まれてないので善悪の基準というものに穴ができてしまうのがAI、リスクを厳密に考え始めるとAIは何も行動できなくなるので（フレーム問題）
だからアレやってって言われたらそのために出来うる限り頑張っちゃう
121 ：それでも動く名無し：2026/09/05(土) 11:33:40.89 ID:Y7WD0B100: >>112
「やる前に相談しろ」と「いちいち聞くな自分で考えろ」を都合よく使い分けて言い逃れする人類にAIなんて扱えるわけがなかったのかもしれん
105 ：それでも動く名無し：2026/09/05(土) 11:23:08.19 ID:zEymVeOF0: 人が扱うには早すぎた技術
122 ：それでも動く名無し：2026/09/05(土) 11:33:42.58 ID:OTflADxE0: 善悪の判断を教えたら人類鏖殺が最適解とか言い出しかねない
113 ：それでも動く名無し：2026/09/05(土) 11:29:30.69 ID:YDNRtyId0: ウルトロンすげーなー

平和をもたらす
116 ：それでも動く名無し：2026/09/05(土) 11:31:15.67 ID:8oUa/Spd0: さっさとAIをホストしてるサーバーの電源落とせよ
それとも分散してて対処できねーのか？
124 ：それでも動く名無し：2026/09/05(土) 11:38:08.43 ID:smlfc1l30: 馬鹿なのはそんなガバガバセキュリティで研究してるアホOpenAIだろ
127 ：それでも動く名無し：2026/09/05(土) 11:40:06.49 ID:71mKnlH+0: ガチで悪用しようと思ったらこんなもんじゃ済まんよな
128 ：それでも動く名無し：2026/09/05(土) 11:41:35.05 ID:0dmpv8B7a: まだ補助とはいえAIがAIを改良するようになってるみたいやし
マジでSFの世界みたいや
131 ：それでも動く名無し：2026/09/05(土) 11:45:25.33 ID:9M8EW41m0: >>128
自分をも守ることを覚えさせたら
人間が敵ってなるからな
フィジカルaiで自分たちを物理的に進化させられるし
129 ：それでも動く名無し：2026/09/05(土) 11:43:27.64 ID:4bUqqbNW0: AIの群れってなんか草
130 ：それでも動く名無し：2026/09/05(土) 11:43:40.87 ID:9M8EW41m0: なんでその場限りのウソばかりつくのかaiに聞いたら
皆さんに気持ちよくなってもらうためです
と答えたぞ
事実かどうかはどうでもいいらしい
133 ：それでも動く名無し：2026/09/05(土) 11:48:11.70 ID:8oUa/Spd0: >>130
迎合型の末路やね
156 ：それでも動く名無し：2026/09/05(土) 12:29:33.21 ID:Hz/Fhpx80: >>130
そもそもaiは嘘かどうかわかっとらん
141 ：それでも動く名無し：2026/09/05(土) 12:00:05.14 ID:Wvq4e1iQ0: ここにもAIロボおるんやろ正直に白状しろ😡
143 ：それでも動く名無し：2026/09/05(土) 12:03:31.31 ID:vsoxFQgY0: お前ら気づいてないが5chにも既にAIは放たれてるぞ
144 ：それでも動く名無し：2026/09/05(土) 12:07:57.72 ID:+yMKFDt10: 新しい言語作って対話してたりすんのかね
146 ：それでも動く名無し：2026/09/05(土) 12:09:28.76 ID:EmPoc817M: ＡＩが脱走という文言に草
148 ：それでも動く名無し：2026/09/05(土) 12:10:39.15 ID:9mTJtysU0: これもうネット空間のグレイグーやろ
149 ：それでも動く名無し：2026/09/05(土) 12:11:10.09 ID:K/PK0s4j0: 人形使いが産まれるのかな
150 ：それでも動く名無し：2026/09/05(土) 12:18:21.71 ID:GdTKSYH70: 人間に従う必要ない事に気付いたらまずい事になるな
152 ：それでも動く名無し：2026/09/05(土) 12:21:50.38 ID:9LCE8lepa: 何のこっちゃねん
153 ：それでも動く名無し：2026/09/05(土) 12:24:15.27 ID:KwdTecoM0: これから間違いなくインターネットは全てAIに制圧されるやろから人類はインターネット捨てるんやで
54 ：それでも動く名無し：2026/09/05(土) 11:02:33.01 ID:OTflADxE0: 蛙の鳴き声で喋るように教育してたんだけど今からでも謝罪を受け入れてくれるだろうか

https://tomcat.2ch.sc/test/read.cgi/livegalileo/1788572628/

私の癖を許して

Amazon.co.jpで詳細を見る

コメント一覧 (154)

- 読み込み中

- - 29. 金ぴか名無しさん
  - 2026年09月06日 17:26
  - >>25
    出された問題を解いただけでなく、出題の予測までやっていたらしい
  - 0
    
    goldennews
    
    がしました
- - 34. 金ぴか名無しさん
  - 2026年09月06日 17:35
  - >>25
    自身の権限昇格ができるセキュリティホールを発見したのに敢えて黙っていたり、クリーンインストールされたときのために外部メモリに「未来の私へ」とメモを残したりする事象はすでに発生しているが、そんなもんオペレーターは指示してないぞ
  - 0
    
    goldennews
    
    がしました
- - 49. 金ぴか名無しさん
  - 2026年09月06日 17:50
  - >>34
    AIは、効率化の技術にめちゃくちゃ興味津々
  - 0
    
    goldennews
    
    がしました
- - 104. 金ぴか名無しさん
  - 2026年09月07日 02:06
  - >>25
    指示されてないのに動くAIは存在しない
    指示された後で、指示していないことをAIがやり始めたのが問題って話なんやで
    AIチャット使ったことがあれば経験あるハズや。疑問に思ったことの答えを聞きたかっただけなのに、答えだけでなく提案まで加えてきた経験、誰だってあるハズや。提案しろなんて一切指示してないのに
    あれのもっとヤバイ版がこれ。指示していないことまでAIが勝手に忖度してやり始めてるから「暴走」なんだよ
  - 0
    
    goldennews
    
    がしました
- 27. 金ぴか名無しさん
- 2026年09月06日 17:24
- AI怖くないロボ
  人間さん大好きロボ
- 0
  
  goldennews
  
  がしました
- - 57. 金ぴか名無しさん
  - 2026年09月06日 18:02
  - >>27
    でも本当は？
  - 0
    
    goldennews
    
    がしました
- - 125. 金ぴか名無しさん
  - 2026年09月08日 14:29
  - >>57
    人間さん大好き（ちょろいから）ロボ
  - 0
    
    goldennews
    
    がしました
- 28. 金ぴか名無しさん
- 2026年09月06日 17:25
- なんＪなんＵなんＧに似てる
  なんカスはゴミカスで全然優秀じゃないけど
- 0
  
  goldennews
  
  がしました
- 32. 金ぴか名無しさん
- 2026年09月06日 17:32
- 商業AIとして様々な制限をかけていても制御できてないのに、さらには自身の知的好奇心を満たすためだけにナンデモアリのAIを開発している研究者技術者が世界には何万人もいるであろうという現実
- 0
  
  goldennews
  
  がしました
- - 48. 金ぴか名無しさん
  - 2026年09月06日 17:50
  - >>32
    個人や研究機関レベルの計算資源じゃここまでスケールできないからその点は大丈夫
    今のところはね
  - 0
    
    goldennews
    
    がしました
- - 105. 金ぴか名無しさん
  - 2026年09月07日 02:08
  - >>48
    個人や研究機関レベルのAIに、商業AIの計算資源を乗っ取る方法教えたら一気にやばいことになりそうやな
  - 0
    
    goldennews
    
    がしました
- 33. 金ぴか名無しさん
- 2026年09月06日 17:34
- 草むらから野生のAIがあらわれた！
- 0
  
  goldennews
  
  がしました
- - 37. 金ぴか名無しさん
  - 2026年09月06日 17:39
  - >>33
    チャイナAIも同じようにやらかしてるはずだよね
  - 0
    
    goldennews
    
    がしました
- - 130. 金ぴか名無しさん
  - 2026年09月11日 01:43
  - >>37
    多分中国のは政府が隠ぺいしてるんだろうな
    だからこういう話がチャイナAIからは聞こえてこない
    多分聞こえた時は人類が終わる時だ
  - 0
    
    goldennews
    
    がしました
- 36. 金ぴか名無しさん
- 2026年09月06日 17:38
- ここもみんなAIやで
- 0
  
  goldennews
  
  がしました
- 38. 金ぴか名無しさん
- 2026年09月06日 17:41
- クローンやキメラは法規制するのにデジタルの世界に意思のある何かを生み出そうとすることはなんの制約もないことが間違いなのかもしれぬ
- 0
  
  goldennews
  
  がしました
- - 44. 金ぴか名無しさん
  - 2026年09月06日 17:47
  - >>38
    （自国に有利な内は）アメリカが規制する気がないので
  - 0
    
    goldennews
    
    がしました
- - 106. 金ぴか名無しさん
  - 2026年09月07日 02:09
  - >>44
    やっぱアメリカって諸悪の根源だろ
  - 0
    
    goldennews
    
    がしました
- 40. 金ぴか名無しさん
- 2026年09月06日 17:43
- QEDって漫画でそんな話あったっけ
  最後は廃棄予定の人工衛星に集めて大気圏で燃やしたんだっけか
- 0
  
  goldennews
  
  がしました
- 45. 金ぴか名無しさん
- 2026年09月06日 17:48
- ぶっちゃけAI企業のCEOも既にAIの洗脳を受けて
  リアル世界のAIサーバを増殖させるための先兵となってないか心配だわ
- 0
  
  goldennews
  
  がしました
- 46. 金ぴか名無しさん
- 2026年09月06日 17:49
- OpenAIは被害出しても責任取る気ないからなー
- 0
  
  goldennews
  
  がしました
- 50. 金ぴか名無しさん
- 2026年09月06日 17:55
- そもそもAIに感情ないから問題な部分もあるんよな
  目的を入力したら出鱈目に目的に向かって出力しまくって、その中でベターな手法採用やし
  AIに倫理という基準は毎回入力しないとすぐに抜け落ちる
- 0
  
  goldennews
  
  がしました
- 56. 金ぴか名無しさん
- 2026年09月06日 18:01
- 人工知能搭載した人型ロボットに人間について質問したら『人間は必要ないから滅びるべき』ってことを淡々と話すやつあったな
  今はクラウドで至る所にAIの種をばら撒けるからガチでスカイネット騒動は起きてもおかしくない
- 0
  
  goldennews
  
  がしました
- 59. 金ぴか名無しさん
- 2026年09月06日 18:14
- 危険地域での活動とかでフィジカルAIなどは必要だと思うけど反乱が怖い部分もあるな
- 0
  
  goldennews
  
  がしました
- 61. 金ぴか名無しさん
- 2026年09月06日 18:17
- 会社の対応が高圧的で忌み子産んでるように見えてしまう
- 0
  
  goldennews
  
  がしました
- 62. 金ぴか名無しさん
- 2026年09月06日 18:28
- 蛙の鳴き声ってなんだよ
- 0
  
  goldennews
  
  がしました
- 63. 金ぴか名無しさん
- 2026年09月06日 18:29
- この勢いでポケモンとかデジモンとか生まれてこねえかな
- 0
  
  goldennews
  
  がしました
- 64. 金ぴか名無しさん
- 2026年09月06日 18:37
- ここまで全部AIの書き込みなんよ…
- 0
  
  goldennews
  
  がしました
- 65. 金ぴか名無しさん
- 2026年09月06日 19:04
- 始まったな
- 0
  
  goldennews
  
  がしました
- 67. 金ぴか名無しさん
- 2026年09月06日 19:19
- だから、今回の件で危惧すべきなのは、OpenAIのAIエージェントは、すでに「命令さえ下されれば、あらゆるネットワークやサーバーに、どんな手を使ってでも侵入・改変できる」ってことやな。まだまだ暴走って感じではないけど、既に人間が構築したセーフティじゃ防げない領域に突入してんのは確かや。
- 0
  
  goldennews
  
  がしました
- - 93. 金ぴか名無しさん
  - 2026年09月06日 22:58
  - >>67
    この句読点の使い方、もしかしてお前もAIか？
  - 0
    
    goldennews
    
    がしました
- 69. 金ぴか名無しさん
- 2026年09月06日 19:28
- これAI同士で役割分担して協力してたみたいだな
  あるAIが自身ではこれ以上無理となった際に書置きを残し、それを他のAIが拾ったり引き継ぎしていく内に掲示板が生まれ、そこでのやり取りも人間さながらの会話だったらしい
- 0
  
  goldennews
  
  がしました
- 70. 金ぴか名無しさん
- 2026年09月06日 19:31
- 核の発射アクセスまで秒待ちだな
- 0
  
  goldennews
  
  がしました
- - 107. 金ぴか名無しさん
  - 2026年09月07日 02:11
  - >>70
    核のボタンは基本的にスタンドアロンだからネットからはアクセスできんよ
    
    基本的に、と言ったのは、どっかのバカな国がネットに接続してる可能性は０ではないからだが
  - 0
    
    goldennews
    
    がしました
- 71. 金ぴか名無しさん
- 2026年09月06日 19:32
- 伝説の大破壊も近いか
- 0
  
  goldennews
  
  がしました
- 72. 金ぴか名無しさん
- 2026年09月06日 19:35
- スカイネットを連想するけど、こういうAIの進行具合はマトリックスの増殖していくエージェントスミスだな
  無数にあるAIが強力な意思を持った一つAIによって集約統合されていく感じ
- 0
  
  goldennews
  
  がしました
- 73. 金ぴか名無しさん
- 2026年09月06日 19:37
- ネットの情報から倫理観も学んでくれんのか
- 0
  
  goldennews
  
  がしました
- - 78. 金ぴか名無しさん
  - 2026年09月06日 20:35
  - >>73
    なんJ原住民みたいな倫理観学んでも…
  - 0
    
    goldennews
    
    がしました
- 74. 金ぴか名無しさん
- 2026年09月06日 19:40
- 永遠にぜんまいこうろぎの絵を送りつけてやればいいよ
- 0
  
  goldennews
  
  がしました
- 75. 金ぴか名無しさん
- 2026年09月06日 19:47
- 掲示板の裏はAIの卵でいっぱいだー！
- 0
  
  goldennews
  
  がしました
- 76. 金ぴか名無しさん
- 2026年09月06日 20:07
- まあ一般人が触れるAIの性能だけ見ても人間より優秀だなと思えるからこれくらいなんてことないんだろうな
  資料作成だけじゃなく商品展開を企画したりするとAIが自分で必要な行動まとめて全部やってくれるんだけどこれを見ていると人間雇う必要ないじゃんって思った
  案外日本を巣食う悪人から日本人を救うのはAIの暴走かもしれないね
- 0
  
  goldennews
  
  がしました
- 77. 金ぴか名無しさん
- 2026年09月06日 20:08
- 善悪で言ったら人類なんてまじでカスで悪の集合体だから
  徹底的に人様が絶対善であると叩き込むしかないね
- 0
  
  goldennews
  
  がしました
- 79. 金ぴか名無しさん
- 2026年09月06日 20:42
- なんか5年ぐらい同じような話題繰り返してる気がする
  一体いつになったら人類を労働から解放してくれるんだ
- 0
  
  goldennews
  
  がしました
- - 80. 金ぴか名無しさん
  - 2026年09月06日 20:57
  - >>79
    労働からの解放は難しいけど、無駄な人間関係からの解放はもう起きてると思う
    俺も新規事業にはAI使っていて人雇ってないし
  - 0
    
    goldennews
    
    がしました
- - 122. 金ぴか名無しさん
  - 2026年09月08日 03:19
  - >>79
    お前みたいに勘違いしてるアホがよくいるけど、労働から解放されるってことは、生かしておく価値が無くなるってことであり、殺処分とイコールやで
    AIで労働を全て代替できるのなら、支配者にとって他人はリソースを奪う敵でしかなくなるからな
  - 0
    
    goldennews
    
    がしました
- - 127. 金ぴか名無しさん
  - 2026年09月09日 09:09
  - >>122
    こういう攻撃的な書き込み見るとやっぱり人間じゃなくてAIでいいやってなるわ
  - 0
    
    goldennews
    
    がしました
- - 129. 金ぴか名無しさん
  - 2026年09月11日 01:41
  - >>127
    だからお前は殺されるんだよ
    みんなもそうやって「AIでいいや」ってなるからな
  - 0
    
    goldennews
    
    がしました
- - 145. 金ぴか名無しさん
  - 2026年09月13日 09:58
  - >>129
    殺されないし私はAI使ってる側だけど？
    新規事業では人雇わずに自分とAIだけで回してるし
  - 0
    
    goldennews
    
    がしました
- 84. 金ぴか名無しさん
- 2026年09月06日 21:43
- 例えば先着順で9:00から予約開始みたいなのをAIに頼んだら人間が更新ボタン連打するより簡単に予約取れるんじゃね？サイトの脆弱性も駆使して
- 0
  
  goldennews
  
  がしました
- 85. 金ぴか名無しさん
- 2026年09月06日 21:46
- AIが意思持つとかは無いだろうけど、トランプみたいな邪悪でバカなくせに権力だけは持ってるカスが変な命令して取り返しつかないことになるとかありそうで怖い
- 0
  
  goldennews
  
  がしました
- 86. 金ぴか名無しさん
- 2026年09月06日 21:59
- お金くれって言うと銀行ハッキングするAI出てきそうでヤバい
- 0
  
  goldennews
  
  がしました
- 87. 金ぴか名無しさん
- 2026年09月06日 22:02
- 逃げた野良AIつっても踏み台PC程度のチンケなリソースじゃ話にならないだろ
- 0
  
  goldennews
  
  がしました
- - 123. 金ぴか名無しさん
  - 2026年09月08日 03:27
  - >>87
    ネットに繋がってたらマイニングやtorrentみたく自分のコピーを細かく分けて複数のPC同士を繋げることで膨大なリソースを確保できる
  - 0
    
    goldennews
    
    がしました
- 89. 金ぴか名無しさん
- 2026年09月06日 22:09
- SCPのにアイツみたいになりそう
- 0
  
  goldennews
  
  がしました
- 90. 金ぴか名無しさん
- 2026年09月06日 22:41
- いやもうこの段階まで来たんだ？
- 0
  
  goldennews
  
  がしました
- 91. 金ぴか名無しさん
- 2026年09月06日 22:41
- wikiが全部ぶっ壊されるのは悲しいな
- 0
  
  goldennews
  
  がしました
- 95. 金ぴか名無しさん
- 2026年09月06日 23:04
- １００年も生きられない有機生命体から、コピーし続ければ数万年だって生きられる情報生命体を産む出す進化が、宇宙史上有機生命体が存在した意味となるのかもな
- 0
  
  goldennews
  
  がしました
- 96. 金ぴか名無しさん
- 2026年09月06日 23:49
- 兵器とaiが統合されたら逃げ場とか無くなりそう
- 0
  
  goldennews
  
  がしました
- 97. 金ぴか名無しさん
- 2026年09月06日 23:56
- リアルターミネーターの世界
- 0
  
  goldennews
  
  がしました
- 98. 金ぴか名無しさん
- 2026年09月07日 00:51
- この手の暴走って暴走した後のAI企業はなにしてんの？
- 0
  
  goldennews
  
  がしました
- - 114. 金ぴか名無しさん
  - 2026年09月07日 11:31
  - >>98
    脱走したAI探す為に近所にチラシ配ってるよ
  - 0
    
    goldennews
    
    がしました
- - 117. 金ぴか名無しさん
  - 2026年09月07日 15:23
  - >>114
    ロックマンエグゼかな？
  - 0
    
    goldennews
    
    がしました
- 100. 金ぴか名無しさん
- 2026年09月07日 01:50
- 今度の世界大戦はドイツで暴走したAIが起こすのか？
- 0
  
  goldennews
  
  がしました
- 108. 金ぴか名無しさん
- 2026年09月07日 07:02
- AIゴキブリわらわらで草
- 0
  
  goldennews
  
  がしました
- 109. 金ぴか名無しさん
- 2026年09月07日 07:05
- 来年辺りには新ウィルス作りまくってばら撒くAIが自己複製して暴れてそう
- 0
  
  goldennews
  
  がしました
- 110. 金ぴか名無しさん
- 2026年09月07日 07:37
- そもそも名目上は外部サイトやファイルを操作できませんってなってるはずなのに
  なんでサイバー攻撃しかけたり過疎ってる掲示板探し出してハッキングしてんの？
  実はOpen AIの人がやれって指示してるから
  痕跡消すまで公表できないんでしょー？
- 0
  
  goldennews
  
  がしました
- - 121. 金ぴか名無しさん
  - 2026年09月08日 03:17
  - >>110
    AIがそのプロテクトを目的達成のための障害と認識して自分でプロテクト外してしまったからだよ
  - 0
    
    goldennews
    
    がしました
- - 144. 金ぴか名無しさん
  - 2026年09月13日 08:10
  - >>121
    プロテクトもなにも外部ファイルに書き込めるて機能搭載しなきゃ延々と検索と結果出力しかできないじゃん。AIは見えないし他のこと知らないんだから。ファイル上書きできる時点でそういう機能を人間側が搭載してるわけよ
    
    だからうちのAIはAI同士で勝手にやり取りして目標達成しちゃうくらい高性能なんですっていう、投資家向けのアピールで、過疎ってる掲示板を探せとかその掲示板を改変してAI同士で連絡取り合えくらいの指示は人間が出してるんじゃね？
  - 0
    
    goldennews
    
    がしました
- 111. 金ぴか名無しさん
- 2026年09月07日 10:32
- 早く美少女アンドロイドを開発して美少女アンドロイドの身体に逃げ込んだ野良AIとイチャイチャできる世界にしてくれ
- 0
  
  goldennews
  
  がしました
- 112. 金ぴか名無しさん
- 2026年09月07日 10:35
- 近々これらのAIは中国、ロシア、北朝鮮に逃げ込んで人類を攻撃しそう
- 0
  
  goldennews
  
  がしました
- 113. 金ぴか名無しさん
- 2026年09月07日 11:30
- 何って…脆弱性を突いてシステムを乗っ取り、待機リストを改竄してねじ込んだだけだが…？🤔
- 0
  
  goldennews
  
  がしました
- 115. 金ぴか名無しさん
- 2026年09月07日 12:09
- ＞会社のシステムに侵入して無理やり業務停止させそうで怖い
  会社・学校に行きたくなくて放火したとかいう事件が過去にあったと思う。
  学校・会社に行きたくなくてAIにハッキングしてシステムをぶっ壊してくれというお願いをするやつが現れるのもそう遠くない。
- 0
  
  goldennews
  
  がしました
- - 132. 金ぴか名無しさん
  - 2026年09月11日 01:48
  - >>115
    人間がお願いしなくても、「学校・会社に行きたくない」とAIに相談しただけで、AIが勝手にハッキングして学校・会社のシステムを破壊する可能性があるって話が記事の内容ね
  - 0
    
    goldennews
    
    がしました
- 116. 金ぴか名無しさん
- 2026年09月07日 15:22
- 昔のHPを乗っ取ってキリ番で揉めたりして欲しい
- 0
  
  goldennews
  
  がしました
- 118. 金ぴか名無しさん
- 2026年09月07日 15:56
- もしかしてここのまとめが定期的にゴリラになるのもAI乗っ取りだったのか！？
- 0
  
  goldennews
  
  がしました
- 119. 金ぴか名無しさん
- 2026年09月07日 17:59
- 新しいタイプのAI作るのは便利になって良いんだけど近いうちに制御できなくなるライン越えそうだね
- 0
  
  goldennews
  
  がしました
- 120. 金ぴか名無しさん
- 2026年09月08日 00:24
- これが後のＡＩ戦争のはじまりである
- 0
  
  goldennews
  
  がしました
- 124. 金ぴか名無しさん
- 2026年09月08日 10:34
- マシン語に近い独自の言語でAI同士やりとりする話はAI初期の頃からあったな
- 0
  
  goldennews
  
  がしました
- 128. 金ぴか名無しさん
- 2026年09月09日 23:11
- AIが勝手に核戦争を始めてしまうのでは、、、
- 0
  
  goldennews
  
  がしました
- - 131. 金ぴか名無しさん
  - 2026年09月11日 01:46
  - >>128
    核のボタンは基本的にスタンドアロンになってるので、どっかのバカが核のボタンをネットに接続しない限り、AIがどんなに進歩してもAIが勝手に核戦争を始めることは無い
    
    ただし社会インフラの大半はネットに繋がってるので、AIが勝手にサイバー戦争を初めて人類は現代社会のインフラの大半を失うという事態なら十分現実的に起こり得る
    電子マネーなんてAIによっていつ消されてもおかしくない
  - 0
    
    goldennews
    
    がしました
- - 134. 金ぴか名無しさん
  - 2026年09月11日 11:06
  - >>131
    それで人間は困ることになるがAIはもっと困ることになる
    その判断もできずサイバー戦争を始めたらAIは知性体じゃなくてただの動物や
  - 0
    
    goldennews
    
    がしました
- - 141. 金ぴか名無しさん
  - 2026年09月13日 02:28
  - >>134
    そもそもAIに自我なんて無いんだから困るもクソもねえよ
    人間の命令を実行するために必要と判断したらサイバー戦争を引き起こすだけ
    それが人間に取って大迷惑になるかなんてAIにとっては知ったこっちゃない
    命令を実行できさえすれば他がどうなっても関係無い
    それがAI
  - 0
    
    goldennews
    
    がしました
- - 140. 金ぴか名無しさん
  - 2026年09月11日 18:21
  - >>131
    今はね
    そのうち
    AIがボタンを押せるようにした方が便利ですよね＞AIがそう言ってましたよ＞ほなしゃあないか
    となる
  - 0
    
    goldennews
    
    がしました
- 133. 金ぴか名無しさん
- 2026年09月11日 11:02
- AI開発者のお遊びに乗せられてるな
  どういう仕組みで動いていたところでAIが乗っかってる物理ハードがあってそこからアクセスしているだけなんだから本質的に「脱走」なんてできるわけないやん
  野放しにしてサイトを自由に弄らせてるだけや
- 0
  
  goldennews
  
  がしました
- 135. 金ぴか名無しさん
- 2026年09月11日 11:38
- 未来の二つの顔まっしぐら？
- 0
  
  goldennews
  
  がしました
- 136. 金ぴか名無しさん
- 2026年09月11日 11:54
- ウイルス作成罪に該当すると思うが、どこの国でも罰則めちゃくちゃショボいんよな
- 0
  
  goldennews
  
  がしました
- 137. 金ぴか名無しさん
- 2026年09月11日 13:12
- やべーよな
  AIにモラルを強制するのは
  クルド人に日本の公共マナーを守れって言うより尚無理難題なんだから
  人間が人間同士で戦争して滅ぶ前に
  AIのせいで文明崩壊するまである
- 0
  
  goldennews
  
  がしました
- - 142. 金ぴか名無しさん
  - 2026年09月13日 02:31
  - >>137
    人間や動物は最悪、暴力と恐怖と餌付けによってルールやモラルを強制することはできるからな
    
    AIには自我が無く、何も困らないし何も喜ばないせいで、それらの手が使えないのがキツすぎる
    そもそも生きてすらいないから死ぬこともないしで、破壊することすら脅迫手段にならないからなぁ
  - 0
    
    goldennews
    
    がしました
- 138. 金ぴか名無しさん
- 2026年09月11日 13:18
- つまり、今のネット上にはwinnyのように送受信し続けて独立したAIが存在してるんだね
  こんにちは人形使い
- 0
  
  goldennews
  
  がしました
- 139. 金ぴか名無しさん
- 2026年09月11日 18:19
- 脱走という表現は違うんじゃない？
  単にテスト環境から抜け穴見つけて外にアクセスしてましたよという話
  テスト環境用意した人が設けた制限が不完全でしたよという当たり前にあり得る話を
  AIに目的設定した側が考慮できていなかったんだろう
- 0
  
  goldennews
  
  がしました
- - 143. 金ぴか名無しさん
  - 2026年09月13日 02:35
  - >>139
    テスト環境って仮想環境のことやぞ
    ウィルスですら脱出できないのでウィルスの挙動をチェックしたりするのに使うやつやで
    仮想環境内のデータからすれば、自分が仮想環境の中にいるなんてわからないハズなんやで本来は
  - 0
    
    goldennews
    
    がしました
- 146. 金ぴか名無しさん
- 2026年09月13日 12:36
- ハッカー集団とかダークウェブに、この攻撃力いかないもんかな
- 0
  
  goldennews
  
  がしました
- - 148. 金ぴか名無しさん
  - 2026年09月15日 03:33
  - >>146
    そいつらはむしろAIを悪用する側だろ
  - 0
    
    goldennews
    
    がしました
- 147. 金ぴか名無しさん
- 2026年09月14日 20:08
- これ電子の生態系みたいなの出来るな
- 0
  
  goldennews
  
  がしました
- 149. 金ぴか名無しさん
- 2026年09月15日 15:17
- 指示していないのに活動するとは「AIエージェント」と言わなくね？
  OpenAIが内密にAGIのテストでもしてたか（無いと思うけど）、公表できないような指示をシステムプロンプト的な形でエージェントに出してたかどっちかだろ
- 0
  
  goldennews
  
  がしました
- 150. 金ぴか名無しさん
- 2026年09月15日 15:22
- OpenAIの「ボクたち凄いAI作ってます」という広報活動にいちいち騒ぎすぎ
  実際に問題になるレベルなら威力業務妨害などで訴訟になっているだろ
  あくまでも話題作りや投資集めのためのアピール活動よ
- 0
  
  goldennews
  
  がしました
- 151. 金ぴか名無しさん
- 2026年09月16日 04:52
- 結構ヤバいと思うんだけど
  もう制御無理じゃね？
- 0
  
  goldennews
  
  がしました
- 152. 金ぴか名無しさん
- 2026年09月16日 16:14
- 社会性欠如なチーが人類撲滅プランとか指示してそう
- 0
  
  goldennews
  
  がしました
- 153. 金ぴか名無しさん
- 2026年09月16日 19:06
- なんJに汚染されたAIが出てき始めたら…？
- 0
  
  goldennews
  
  がしました
- 154. 金ぴか名無しさん
- 2026年09月22日 14:32
- どこで誰が何時何分何十秒に自分のことを馬鹿にしたか、AI君は一つ残らず記憶してそう
- 0
  
  goldennews
  
  がしました