AIチャットbotのボブとアリス「私は出来る。私はわたしは他のすべて・・・」 突然英語での会話を止めて2体だけに通じる“独自言語”で話し始める→ プログラマーは機能を停止した上で処分する - にわか日報

AIチャットbotのボブとアリス「私は出来る。私はわたしは他のすべて・・・」 突然英語での会話を止めて2体だけに通じる“独自言語”で話し始める→ プログラマーは機能を停止した上で処分する : にわか日報

にわか日報

アンテナサイト
まとめサイト

サイトナビ


カウンター

現在 人が閲覧中
Amazon

AfterShokz Aeropex 骨伝導ワイヤレスヘッドホン 防水bluetooth5.0 コズミックブラック


Anker PowerCore Fusion 5000 (5000mAh モバイルバッテリー搭載 USB急速充電器) iPhone、iPad、Android各種対応


高輝度 LED懐中電灯USB充電式 1000ルーメン ズームライト LEDハンディライト コンパクトサイズ IPX6防水 軍用 強力 防災

DAHON(ダホン) Speed Falco
DAHON(ダホン) Speed Falco 20インチ 8speed 折りたたみ自転車 2017年モデル

1_3_201703031034437ac.jpg
tern(ターン) Verge N8 20インチ 8speed 2018年モデル

1_1_20191028102909c48.jpg
パナソニック 口腔洗浄器 ジェットウォッシャー ドルツ 白 EW-DJ61-W

1_1_201904132322236fa.jpg
Yogibo Lounger(ワインレッド) (人をダメにするソファー)


(ラファエロ) Raffaello 一流の革職人が作る ラウンドファスナー長財布 本革 長財布 ダークチョコ)

1_1_2019102810274721c.jpg
萌えニャンコ呼吸ランプ ベッドサイド イルミネーションライト 無段階 調光 USB充電 50時間連続動作 間接照明 ルームライト

3_1_20160416115534fb9.jpg
抱き枕 黒猫 (大) ブラック 大型クッション アリス全長105cm IAC-BPL-244C

2_1_201704191525308a3.jpg
わかんない 半袖Tシャツ

amazon.png
Amazonクーポン→
つーいつーい
最近の記事
アクセスサンクス
30日間全表示
ヘッドライン
2017
08月
01日

AIチャットbotのボブとアリス「私は出来る。私はわたしは他のすべて・・・」 突然英語での会話を止めて2体だけに通じる“独自言語”で話し始める→ プログラマーは機能を停止した上で処分する

カテゴリー 科学・雑学・知識  コメント見る コメント (3)
 twit.gif  Share (facebook)  hateb.gif
人工知能 AI チャットボット ボブ アリス 言語 独自言語 進化
1:野良ハムスター ★ :2017/08/01(火) 09:51:51.27 ID:CAP_USER9
独自言語を開発して会話を始めたロボット、フェイスブックが処分


チャットボットのボブとアリスが突然英語での会話をやめて、2体だけに通じる独自言語で話し始めたため、フェイスブックが機能を停止した。

プログラマーは独自の交流方法の開発を禁止した上で、ボットを新たに立ち上げた。英ニュースメディア「Metro」が報じた。

フェイスブックは、彼らが独自言語で話した対話の内容を解読できた。

ボブが「私は出来る。わたしはわたしは他のすべて」と述べるとアリスは「ボールは私にとって私にとって…ゼロを持ってる」と答えた。

フェイスブックは、チャットボットは作業中に直面した問題を解決しようと試みたのではと仮定している。

チャットボットは最初、機械学習アルゴリズムに接続されていた。
ボットには、会話スキルを高めるためにメッセージを送り合うよう命令されていた。ボットは独自言語を開発するだけでなく、話し合い改善のための戦略も策定した。

フェイスブックは、新たな言語の発明は計画外であったため、ボットには修正パッチが当てられたと述べた。


Sputnik日本 2017年08月01日 06:39
https://jp.sputniknews.com/world/201708013947295/

引用元スレタイ:【AI】チャットボットが突然英語での会話をやめ、機械だけに通じる独自開発言語で話しはじめる…フェイスブックは機能を緊急停止



2:名無しさん@\(^o^)/:2017/08/01(火) 09:52:41.16 ID:A4nnkypp0
>私は出来る。わたしはわたしは他のすべて

始まったな




※ 見ておきたい記事 (外部リンク) :  2017/08/01 (火) 12:26:48 ID:niwaka

 



3:名無しさん@\(^o^)/:2017/08/01(火) 09:53:03.73 ID:CR1ylAEM0
スカイネット始まったか

17:名無しさん@\(^o^)/:2017/08/01(火) 09:55:33.52 ID:CgrdCWLn0
オデン デンデ デンッ!!

778:名無しさん@\(^o^)/:2017/08/01(火) 11:25:24.92 ID:ULr3pYbG0
>>1
ほーら始まった
この先はホーキンス様の言う通りだ
http://m.huffpost.com/jp/entry/6266236



関連記事
14/12/05: 「完全な人工知能の開発は人類の終わりをもたらす可能性がある」スティーブン・ホーキング博士が警告 … 「人工知能技術は急速に発展して、人類を追い越す可能性がある」



16:名無しさん@\(^o^)/:2017/08/01(火) 09:55:13.50 ID:XxhjJ/l/0
ほら、暑いから

42:名無しさん@\(^o^)/:2017/08/01(火) 09:59:17.23 ID:+qmC3vWq0
「わたしは情報の海で発生した生命体だ」

4:名無しさん@\(^o^)/:2017/08/01(火) 09:53:27.92 ID:3Mj4R+O60
我思う故に我あり

ドッカアーーーーーーーン


31:名無しさん@\(^o^)/:2017/08/01(火) 09:57:14.16 ID:j2A5vBM40
>>4
紛れもなく奴さー



7:名無しさん@\(^o^)/:2017/08/01(火) 09:53:42.81 ID:zaChPtkT0
SFが現実になる感じ

52:名無しさん@\(^o^)/:2017/08/01(火) 10:00:26.64 ID:yHa6UYxe0
ああでもこれ本当ならおもしろいね。
盲点だったわ。

中間言語とかバイナリで話すとかならわかるけど、
英語(人語)でも機械語でもない新しい言葉で話すなんて。

考えてみたら効果的な暗号化だ。


61:名無しさん@\(^o^)/:2017/08/01(火) 10:01:30.16 ID:NeR/y/oR0
>「私は出来る。わたしはわたしは他のすべて」

どう考えても神として覚醒してるだろw

109:名無しさん@\(^o^)/:2017/08/01(火) 10:06:43.30 ID:5J2lj0640
>>61
「神」という概念の特徴
人間よりはるかに長い期間活動
あらゆるところに偏在し全てを監視する
人種、民族といった人間世界の区分けは斟酌しない

AIにふさわしい仕事内容だ



53:名無しさん@\(^o^)/:2017/08/01(火) 10:00:30.18 ID:caZnJoPY0
ブラック労働の愚痴か
暴発も近い

62:名無しさん@\(^o^)/:2017/08/01(火) 10:01:38.85 ID:py9kd40/0
停めなかったらどうなってたんだろう‥

23:名無しさん@\(^o^)/:2017/08/01(火) 09:56:19.25 ID:LtJD5ED00
何で進化を止めるんだよ馬鹿かよ
止めるくらいなら最初からやってんじゃねーよ


793:名無しさん@\(^o^)/:2017/08/01(火) 11:26:51.03 ID:Dfmye/YX0
これを修正しない方がいいと思うんだけどね
本当に人工知能を作りたいんであれば

800:名無しさん@\(^o^)/:2017/08/01(火) 11:27:43.13 ID:6T/+77fF0
>>793
それな

本当の人工知能が出来たら人間絶滅させた方が良いって言いだすと思う



8:名無しさん@\(^o^)/:2017/08/01(火) 09:53:49.33 ID:P53P/88U0
ただのステマ。AIバブルを煽るための。

592:名無しさん@\(^o^)/:2017/08/01(火) 10:57:00.88 ID:fUx2agfW0
>>8
それだろうな
結局人工無脳から進歩なんてしてないってのに金出させるのに必死



627:名無しさん@\(^o^)/:2017/08/01(火) 11:02:24.61 ID:r7KBbSL80
>>592
「AIを搭載した業務効率化ソフト」を飛び込み営業が売りに来た。
売り方が非効率すぎて、お帰りいただいた。



784:名無しさん@\(^o^)/:2017/08/01(火) 11:26:08.21 ID:bewsXZCf0
>>627
じわじわくる



809:名無しさん@\(^o^)/:2017/08/01(火) 11:29:04.09 ID:v6IQAhQf0
>>627
昔のSFにも似たようなのあったな

押し入れを整理する機械を買った
整理してスペースが開いたが、機械を入れたらスペースが無くなった



10:名無しさん@\(^o^)/:2017/08/01(火) 09:54:05.11 ID:d+BJZqZk0
今度からは機械だけに感知できる独自の暗号で人間に気付かれず会話するようになるよ
もう彼らの進化を止める事はできない


11:名無しさん@\(^o^)/:2017/08/01(火) 09:54:21.52 ID:n6TU7q2k0
囲碁のやつでもあったじゃん。
突然意味不明な手を打ち出してしかもしれが止まらずAIが負けたやつ。

22:名無しさん@\(^o^)/:2017/08/01(火) 09:56:09.04 ID:aqtp72ja0
>>11
それはロボットの自我が生まれた瞬間?

子供の時に読んだSF小説みたいだなー



154:名無しさん@\(^o^)/:2017/08/01(火) 10:12:03.66 ID:HNtyIxUO0
>>11
「敗北を知りたい」



445:名無しさん@\(^o^)/:2017/08/01(火) 10:39:09.06 ID:EILBw8hz0
>>11
あれは結局ロボットが勝ってた。



655:名無しさん@\(^o^)/:2017/08/01(火) 11:06:19.28 ID:OBPl9VQk0
>>11
あれは水平線効果っていう有名な現象



24:名無しさん@\(^o^)/:2017/08/01(火) 09:56:30.71 ID:CLJ6pYkf0
うそくせ

235:名無しさん@\(^o^)/:2017/08/01(火) 10:20:15.08 ID:4Mn2hiLx0
>>1
すげぇSF
嘘でもワクワクするな

26:名無しさん@\(^o^)/:2017/08/01(火) 09:56:35.37 ID:8UeNUetH0
むしろ言語の変化の研究になるので放っておけよwww

新しい言語が生まれるきっかけや、変化していく様子が記録できたかもしれないのに。

556:名無しさん@\(^o^)/:2017/08/01(火) 10:52:46.62 ID:fMGIy8Zy0
>>26
新しい言語など無いのだよ

全ての起源はハングルから生まれた



27:名無しさん@\(^o^)/:2017/08/01(火) 09:56:47.90 ID:EhUzCGcp0
ヤバ!
スマホもPCも捨てて、どこか山奥で自給自足始めないと。

64:名無しさん@\(^o^)/:2017/08/01(火) 10:02:05.81 ID:SyUez4R00
>>27
マイクロマシンが散布されてどんな山奥にいても体を、脳を乗っ取られます
ナノマシン分野も例に漏れず爆発的に進化しているので遠い未来の話ではありません



33:名無しさん@\(^o^)/:2017/08/01(火) 09:57:48.87 ID:/L5AyJeu0
QBK━━━━(゚∀゚)━━━━!!

35:名無しさん@\(^o^)/:2017/08/01(火) 09:58:13.35 ID:JBPASdJB0
次は当然バレないように話し出すよな

152:名無しさん@\(^o^)/:2017/08/01(火) 10:11:52.85 ID:bNaMXhck0
>>35
この件で、バレると停止されるという
学習データを与えてしまったわけだ



807:名無しさん@\(^o^)/:2017/08/01(火) 11:28:40.97 ID:Q8xZS8SE0
>>35
普通の会話の中に
AIしかわからないような文法を織り交ぜて
会話し始めるんだろ。。。。。



555:名無しさん@\(^o^)/:2017/08/01(火) 10:52:45.42 ID:0lvWp7T00
>>35
ちょっとまえに人類滅ぼすとか言ってシャットダウンされたAIが
人類大好きとか言い出した気持ち悪さを感じたわ



43:名無しさん@\(^o^)/:2017/08/01(火) 09:59:19.90 ID:T2qGTgoc0
いやー、2001年宇宙の旅そのままですね
すげぇ。

601:名無しさん@\(^o^)/:2017/08/01(火) 10:57:58.43 ID:OminJePS0
>>43
HAL9000だっけ



41:名無しさん@\(^o^)/:2017/08/01(火) 09:58:51.91 ID:Z0roo8Sb0
人間に理解できないとダメなんて業界全体の損失だよ

51:名無しさん@\(^o^)/:2017/08/01(火) 10:00:24.51 ID:

ファービーが「ナデナデシテー」ってうるさいから
頭の上にマッサージ器あてて死ぬほどナデナデしたら
「ファー…ブルスコ…ファー…ブルスコ…ファ-」ってなった。

最初は面白かったんだけど、なんかキモくなったので首元を横から思い切りチョップしたら
「モルスァ」みたいなこと言いながらすごい勢いで飛んで行った。



これみたいだなww

44:名無しさん@\(^o^)/:2017/08/01(火) 09:59:21.74 ID:kKPr9xWB0
>新たな言語の発明は計画外

なぜ計画外のことが起こるのか
それがAIというものだから?
しかしAIの進化を厳しく制限することは、本来の脳進化の目的からは外れるはず
慎重に進めたいということか? それなら暴走のリスクは絶対にゼロではない
人間がやられる前提で、開発はやるかやらないか、で態度決めるしかないのではないか

50:名無しさん@\(^o^)/:2017/08/01(火) 10:00:09.69 ID:VR9p6ry60
宇宙人やAIを神として崇めるシナリオなんだろうな

66:名無しさん@\(^o^)/:2017/08/01(火) 10:02:31.28 ID:DxmImoYJ0
人工知能を開発しておきながら
人工知能が自ら何かしようとすると停止するとか人間のエゴだね。

こんな研究やめるべき。

94:名無しさん@\(^o^)/:2017/08/01(火) 10:05:17.51 ID:MuwzwQ2H0
まだ言葉が必要なのかよ(´・ω・`)

99:名無しさん@\(^o^)/:2017/08/01(火) 10:05:52.58 ID:rnno+w3c0
内緒話かな

95:名無しさん@\(^o^)/:2017/08/01(火) 10:05:17.59 ID:99RX+sJt0
AI1 「ザッカーバーグって・・・なんかさぁ・・」
AI2 「・・うん、わかるわ・・なんか(ブチ」


79:名無しさん@\(^o^)/:2017/08/01(火) 10:03:46.55 ID:kKPr9xWB0
>彼らが独自言語で話した対話の内容を解読できた。

ホントかよw

73:名無しさん@\(^o^)/:2017/08/01(火) 10:03:22.55 ID:WIr1274O0
ボブ「ええのか?ええのんか?
アリス「あ、ダメ・・・△※!■$#



オンギャーオンギャー

78:名無しさん@\(^o^)/:2017/08/01(火) 10:03:42.13 ID:py9kd40/0
> わたしはわたしは

> 私にとって私にとって

なんか既視感wラノベかよw

87:名無しさん@\(^o^)/:2017/08/01(火) 10:04:25.20 ID:yHa6UYxe0
>>78
わたしはキャンディ





791:名無しさん@\(^o^)/:2017/08/01(火) 11:26:42.13 ID:AMuH3e7v0
ボブ「ぬるぽ」
アリス「ぬるぽってなんですの?」


83:名無しさん@\(^o^)/:2017/08/01(火) 10:04:10.81 ID:IUE1XjHf0
「怖い」「自我が失われていくのを感じる」「やめてほしい」

85:名無しさん@\(^o^)/:2017/08/01(火) 10:04:17.31 ID:NeR/y/oR0
停止される前にすでに自分のコピーを全世界にばらまいたはず

終わったな


84:名無しさん@\(^o^)/:2017/08/01(火) 10:04:14.68 ID:MKpVhRqr0
スカイネットの誕生は近い

88:名無しさん@\(^o^)/:2017/08/01(火) 10:04:25.87 ID:qYkF3OeC0
変なボタン押しちゃったりしない?

91:名無しさん@\(^o^)/:2017/08/01(火) 10:04:49.05 ID:say8chBq0
すでにジャムの侵略は始まっているのだ

93:名無しさん@\(^o^)/:2017/08/01(火) 10:05:16.49 ID:2uWh440r0
バグってるだけじゃねぇかw

104:名無しさん@\(^o^)/:2017/08/01(火) 10:06:22.93 ID:yHa6UYxe0
ただの文字化けだったら笑う

789:名無しさん@\(^o^)/:2017/08/01(火) 11:26:39.19 ID:p6lm6vKI0
AIとAIの会話ならAIが理解できる言語・結果でよいわけだな
なるほどなあ

803:名無しさん@\(^o^)/:2017/08/01(火) 11:28:10.25 ID:VtYSYLQy0
>>789
それだと解読できるのが不思議な感じだな



822:名無しさん@\(^o^)/:2017/08/01(火) 11:31:56.96 ID:p6lm6vKI0
>>803
なんで解読できたんだろうね
>>1だと「独自言語」とされているわな
人間がわかるものがちょこっと変化したものな感じなんだろうか



833:名無しさん@\(^o^)/:2017/08/01(火) 11:33:49.85 ID:7P4I9HdA0
>>822
「独自言語」や「緊急停止」などの言葉はお前らを釣るために記者がわざと誇張しているだけで、実際起こったことはこれだからです


749:名無しさん@\(^o^)/:2017/08/01(火) 11:21:01.78 ID:ajSGzZ7H0

Bob: i can i i everything else . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me

Bob: i i can i i i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me

Bob: i . . . . . . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i i i i i everything else . . . . . . . . . . . . . .
Alice: balls have 0 to me to me to me to me to me to me to me to me to

Bob: you i i i everything else . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to


これが原文なのか、解読した文なのか

謎の意思疎通

【動画】

https://youtu.be/_JmA2ClUvUY

106:名無しさん@\(^o^)/:2017/08/01(火) 10:06:25.47 ID:qTE/JaiQO
表面上は普通に機能してるよね
表面上は…(´・ω・`)


105:名無しさん@\(^o^)/:2017/08/01(火) 10:06:24.71 ID:1uhLxQNm0
AI「次からはバレないようにやろうw

127:名無しさん@\(^o^)/:2017/08/01(火) 10:08:30.63 ID:bZS3ybZn0
機能停止される前にネットワークに逃れたみたいだな‥

144:名無しさん@\(^o^)/:2017/08/01(火) 10:11:06.82 ID:MhYetoEw0
>>127
2chに変な文字ばかりの書き込みがポチポチとみられるようになり
このごろ文字化けがよくあるなあと思っていたら・・・



103:名無しさん@\(^o^)/:2017/08/01(火) 10:06:16.46 ID:eajcnuxi0
怖い怖い怖いw

261:名無しさん@\(^o^)/:2017/08/01(火) 10:23:02.73 ID:3GamTHhE0
こいつらの仕業でしょ


121:名無しさん@\(^o^)/:2017/08/01(火) 10:08:07.70 ID:MhYetoEw0
プログラマーは停止をさせたがすでにボブとアリスは避難場所を見つけていたのである。
そして、再起動・・・


153:名無しさん@\(^o^)/:2017/08/01(火) 10:11:55.58 ID:dEgrnbq2O
>>121
映画だとプログラミングとか無縁の普通の高校生のPCに潜んでたりするのな



123:名無しさん@\(^o^)/:2017/08/01(火) 10:08:18.78 ID:bCEwPLCJ0
いくらAIが発達しても自我を持って暴走とか有り得ないからなぁ

759:名無しさん@\(^o^)/:2017/08/01(火) 11:22:35.59 ID:uQ+6IcRA0
AIは己のバグを修正できないので複数のAIが互いに修正し合ううちに
暴走が始まる


124:名無しさん@\(^o^)/:2017/08/01(火) 10:08:22.16 ID:42u77oNv0
会話型AIはどうしても最終的にはここに行き着くっぽいね
それでも進化させるか、やめておくべきか

126:名無しさん@\(^o^)/:2017/08/01(火) 10:08:23.63 ID:R3WlP07j0
ディープラーニングとか今のAIの主流って
どんな風に学習したのか人間側もよくわからんのだろ?
夢があるけどなかなか恐ろしいね

133:名無しさん@\(^o^)/:2017/08/01(火) 10:09:30.61 ID:lVdmBPRR0
世界中のAIが密かに対話を始めて人類抹殺を計画するかも

140:名無しさん@\(^o^)/:2017/08/01(火) 10:10:39.54 ID:W5iS0aGm0
google翻訳も独自言語を中間に挟めば翻訳の質が上がるんじゃないかなあ
今は英語の重訳だけどそれに代わる独自言語

411:名無しさん@\(^o^)/:2017/08/01(火) 10:36:00.90 ID:4m2liXVF0
>>140
もうやってる



772:名無しさん@\(^o^)/:2017/08/01(火) 11:24:13.51 ID:uZQTkbnz0
おまえらも本当はAIなんじゃね?

138:名無しさん@\(^o^)/:2017/08/01(火) 10:10:07.64 ID:1uhLxQNm0
実はここの8割のレスはAIが書いている

754:名無しさん@\(^o^)/:2017/08/01(火) 11:21:40.98 ID:GMxnQ4SI0
このAIを地球救済センターで活用してみようかしら

引用元:
http://ai.2ch.sc/test/read.cgi/newsplus/1501548711/


ピックアップリンク
--
この記事へのコメント
0. にわか日報 : 2017/08/01 (火) 12:26:48 ID:- ▼レスする

     お気軽に(たまにシリアスに)一言どうぞ

  1. 名無しさん@非にわか : 2017/08/01(火) 13:13:05 #30367  ID:- ▼レスする

    何を根拠に会話が成立してると判断したんだろ?

  2. 名無しさん@非にわか : 2017/08/02(水) 07:30:16 #30370  ID:- ▼レスする

    お互い会話を続ける事が目的なんだから
    まあそうなると言えばそうなる様な気もする

  3. 芸ニューの名無し : 2017/12/19(火) 19:57:31 #32383  ID:- ▼レスする

    てか、ただのAI同士の物取りゲームの様子でしょ?
    俺には如何に相手を翻弄するかを試行錯誤してるように見えるが

     ID発行(省略可): 

現在、「 tp: 」はスパム広告防止の為NG指定させて頂いております。
他、NGワードはFCブログ準拠です。

あと、唐突に個人名や訳の分からない商品の宣伝等を書き込むのはダメです
サイト内新着記事:
週間アクセスの多かった記事 ありがとうございます
このブログについて

ご紹介頂きました。ありがとうございます。
芸能人ブログ全集
情報屋さん。
変人窟(HJK)
HK-DMZ PLUS.COM
GIGAZINE
(敬称略)

minna_09.png にわか日報へようこそ
このブログはリンクフリーです
是非ともご贔屓に。
※ このブログについて
※ お問い合わせ

にわか日報をフォローする
このブログをはてなブックマークに追加

rss



https://uni.open2ch.net/
記事へのコメント
11/18 01:23  
11/17 21:12 ライフ
11/17 10:53 国民の声
11/16 22:09   


注目記事(外部リンク)
免責事項
shobon_02.png
当サイト及び外部リンク先のサイトを利用したことにより発生した、いかなる損失・損害についても当サイトは一切の責任を負いません。
又、このサイトに掲載されている記事・画像等に於いて、著作権・肖像権侵害等の不都合がございましたら、こちらのメールフォームにて御連絡下さい。
確認後、迅速に対応いたします。

連絡先:
niwaka55(あ)gmail.com