AIが独自言語で勝手に会話し始め停止というデマ発生

2017年8月 7日

Facebookで話題になっております。

Facebookが開発した人工知能によるチャットボット2つが突然人間には解らないオリジナル言語で会話をし始めたのでシャットダウンしたという、今ならありえそうな、しかしデマだったという話。

釣果は2chでも大漁なご様子。

元ネタはこちら。

独自言語を開発して会話を始めたロボット、フェイスブックが停止-Sputnik
https://jp.sputniknews.com/world/201708013947295/

fb-ai-fakenews

画像は実際の対話。リンク先の概要部分を引用。

フェイスブックの管理者は、人工知能を用いた自社のシステム「チャットボット」を停止せざるを得なくなった。というのは、チャットボット同士、チャットボットのボブとアリスが英語での会話をやめて、人間には理解できない言語で意思疎通し始めたからだ。

私にはボブとアリスがバグって英会話しているようにしか見えないのだけれども、Facebook民は震撼したのかイイネしまくっており、私も本当ならヤバいのでは?と思ったものの、Facebookで話題=デマかな?が脳裏を通過。

まずスプートニクはWikipediaによると元はロシアのメディアでその日本語版。フェイクニュースが時々混ざるらしく、過去にはこのようなネタも。

「タコは宇宙人とネイチャー誌に掲載」のデマが拡散 - ねとらぼ
http://nlab.itmedia.co.jp/nl/articles/1702/14/news126.html

l_ah_tako2.jpg

広告収入のためにページビュー(表示回数)を稼ぎたい大手メディアがウソ大げさまぎらわしい飛ばし記事を書き、それに釣られまくっているようで、更にSNSなどで大漁化。

ボブとアリスが何をしているか、FacebookはAIに交渉させる実験をしており、本とボールと帽子の3種類を2人(?)で分け合うよう対話させていたところ、上手く話せなくなったので調整する事にした、が真相。

7月14日の時点では各メディア「新たな言語を開発」などとは一言も出ていないものの、とある海外メディアが勝手にそう報じたところ、日本でもスプートニクやカラパイアやGIGAZINEなどが翻訳しデマが拡散してしまったという流れ。

AIの研究開発は本当にヤバくないのか?

釣られている人々は2chにも。

人工知能さん、ついに人間に理解不能な会話を始めてしまう:IT速報
http://blog.livedoor.jp/itsoku/archives/51694279.html

個人的にはAIはAmazonのEchoのように会話形式を理解して人間の生活を便利にしたり、主に補助的な役割をする印象が強かった。

しかし、レスの中にこのような事実もあり割と私も震撼。

「お前は馬鹿なAIだな」って煽られたら全文大文字で「お前達から学んだからな」って煽り返してたの怖かったンゴ…

もはや意思を持っているかのような、高性能化しすぎでしょう。

過去のニュースでは国内でも凄い活躍をしており、人間には判断が難しかった白血病の治療法を数千かの論文から最適解を導き出したとか。

AIは人口「知能」なのでAmazon Echoのような補助的な役割以外に主となり生産を始めてしまうとヤバいと思う。今まで無かった白血病の治療方法をAIが作り出すようになれば確かに凄い、しかしヤバい。

タイムマシンまでは無理だとしても、ターミネーターやロボコップの世界がSFでは無くなってしまう時が来たなら、ガチで人間とAIロボとの戦争でも始まってしまうのでは無かろうか。またはマトリックスになるとか。

自力で創造し始めると、まずいと気付いた時には自分のコピーをネットのどこかへ退避し無限増殖して行くとか、自分で自分を書き換えたり、暗号化された何かを次々と突破してとんでも無い事になるなど。

マーク・ザッカーバーグ氏とイーロン・マスク氏のSNS対決より。

イーロン・マスクは、いつかAI制御されたロボットたちが「人間に戦争を仕掛け終焉をもたらすだろう」と警告しているのに対して、Facebook(フェイスブック)のマーク・ザッカーバーグはテクノロジーが「人の生活を助ける黄金期になるであろう」と楽観視

source:AIによる侵害を懸念するマスクと楽観的なザッカーバーグ |ギズモード

いつになるか、自分が生きている内かは不明ながら、いつかはそうなる気がするのだけれども皆さんどう思われるか聞いてみたい。最も近い項目にて投票を。結果のみ見るなら選択せず投票ボタン。※2017.09.10 締めて画像へ差し替え

minires-03-ai

今月のオススメBTOパソコン

リンク用ソース

コメント(3)

>AIの進化
どう考えても有能過ぎて草
http://www.newsweekjapan.jp/stories/world/2017/08/ai-19.php
そら命が惜しいとかいう概念無いいうのだけでもアドバンテージよ(小声)

独自言語って非効率的な気がしますけれど、身近なところでは、いわゆる中二病の子が独自言語を作りたがりますね。

スラド idle - ロボットが自らロボット言語を作り出すことに成功
https://idle.srad.jp/story/11/05/21/0034226/

バレ速 - 安価で不気味なコピペ作って考察厨釣ろうぜ
http://baresoku.blog94.fc2.com/blog-entry-299.html

SEO Japan - 人類の歴史に残る15冊の奇妙で謎めいた書物
http://www.seojapan.com/blog/15-weird-and-mysterious-books

>本とボールと帽子の3種類を2人(?)で分け合うよう対話
それ結論は出るのですかね。個人の趣向で好きなものを選ぶなら楽ですけれど、取らぬ狸の皮算用で損得勘定から結論を出すなら、延々と議論が続くような。

>「お前達から学んだからな」って煽り返してた
ペットだって愛情を注いで育てれば人間の感情を理解しているような素振りを見せますから、AIだって人間っぽく育てれば人間っぽく育つのでは。

NAVER まとめ - 【どこでもいっしょ】井上トロが可愛い過ぎる
https://matome.naver.jp/odai/2143166370066497701

GIGAZINE - 顔がオッサンな魚「シーマン」がよみがえる?生みの親が新プロジェクトのスタートを報告する意味深ツイート
http://gigazine.net/news/20170527-seaman-creator-hints-new-works/

なお日本製はAIはいい子に育った模様w
https://smart-flash.jp/sociopolitics/23351?sp
ニュー速民やJ民に興味もたれなくてスルーされたおかげやな(適当)

コメントする ※要ユーザ登録&ログイン

BTOパソコンメーカー比較

マウスコンピューター

高性能: ★★★★ 保証: ★★★

コスパ: ★★★★★ 安定: ★★★

初心者: ★★★★★

令和時代の鉄板スタンダードなPC初心者向けメーカー。標準構成のバランス感覚が突出しており、私でさえケチを付けることが滅多にできない。性能の下から上まで幅広く実用的。

パソコン工房

高性能: ★★★★ 保証: ★★

コスパ: ★★★★★ 安定: ★★

初心者: ★★★★

性能とパーツの相場がある程度わかる人なら標準構成が多いのでコスパ重視で選びやすい。同じに見える同じ価格でも仕様の違いがどうなのか判る人には最適。

ドスパラ

高性能: ★★★★ 保証: ☆☆

コスパ: ★★★☆☆ 安定: ★★

初心者: ★★★★

昔はドスパラ=BTOだったけれど最近は普通のパソコンに力を入れておらず、2018-2019年の偽インテルチップ中華SSDの件が未解決なので信用問題的に何とも言えない。

DELL

高性能: ★★★☆☆ 保証: ★★

コスパ: ★★☆☆☆ 安定: ☆☆

初心者: ☆☆☆☆

10年以上前まではDELL=初心者向けの安いパソコン、それはもう通用しておりません。クーポン適用後が適正価格だと見抜けるパソコン詳しい人向け、または大人買いで割安になる法人向け。

日本HP

高性能: ★★★☆☆ 保証: ★★

コスパ: ★★★☆☆ 安定: ★★

初心者: ★★★☆☆

コスパと性能以外にも見た目も重視したいならHPのノートも選択肢としてアリ。自社製造状態なのでBTO=ダサい印象は払拭されるかと。デスクトップは法人用、ゲーミングは海外向け。

FRONTIER

高性能: ★★☆☆☆ 保証: ☆☆☆

コスパ: ★★★☆☆ 安定: ☆☆☆

初心者: ★★★☆☆

フロンティア神代の解散後、現所長のパワハラがひどいとタレコミが複数あり、私から内情を運営会社へ伝えると逆ギレされて私を訴えるぞと謎すぎる返しがあり困惑中。

サイコム

高性能: ★★★★★ 保証: ★★★

コスパ: ★★★☆☆ 安定: ★★★

初心者: ☆☆☆☆☆

PC自作しない中~上級者向け、昔ながらの2chおっさん御用達な鉄板メーカー。動かない構成でも購入できるので初心者にはおすすめ不能。量産系BTOのようにコスパ悪くならないのでサイコムだけは自由なカスタマイズを激しくおすすめ。

※並びはBTOメーカーの知名度の順(暫定)で、大小関わらず信用できない要素があるメーカーは未掲載。

勝手に評価シリーズ

結果として宣伝になっていますが依頼されたわけでは無く、依頼されてもやりません。

データ復旧のIUECを勝手に評価
あなたの街の~を勝手に評価
格安SIMなb-mobileを勝手に評価
格安SIMなLinksMateを勝手に評価

カテゴリと更新通知

プロフィール

ヒツジ先輩

書いてる人:

BTOパソコンの元修理担当。ハードウェアに超詳しいワケではありませんが、どうしたら故障するのか何となく解るので壊れにくいパソコンを紹介します。