高性能のAIが文書を編み出すことが危険だとイーロンマスク氏が語っているそうです。それの
何が危険になるのでしょすか？高性能のAIが文書を編み出す危険といっているイーロンマスク
氏が語る危険とは？高性能AIが編み出す文章の危険性が判明し重大な危険を人類に与える影響
とは？
Contents
高性能のAIが文書を編み出す危険とはなんなのか？
イーロン・マスク氏と聞いて、皆さんは何を思うでしょうか？人類火星移住計画をしている人
と思う方が多いでしょうか？また都市伝説が好きな方なら、AIが危険だと言っている人と思っ
ているでしょう。
共にその通りですと言うのが答えになります。
やりすぎ都市伝説などで、関昭雄さんがAIに対して危険であることなどをいっていました。
それ以降、YouTuberの方でも都市伝説系YouTuberもいらっしゃいます。
その中でも言われているのが、AIの存在の事を言っている方も多いですよね。
もちろんそれだけではないですが、だいたいの方がAIの事を言っています。
また中には第三次産業革命の中にあるのがAIの開発とまで言っている方もいます。
そのAIですが、何が危険だと言うのでしょうか？それは、文書作成型AIが作成をした文書があ
まりにもうますぎたためだそうです。
しかも、人間が作成をした文書と殆ど差がないレベルだそうです。
研究者は、それが危険と判断して研究を中止せざるおえなかったというのです。
その理由が、これから起こりうる被害を調査するためだそうです。
そして、イーロン・マスク氏はAIの人類に対してAIは最大の存在危機ともいっています。
今回の研究に、イーロン・マスク氏も出資をしている方の１人で研究者も彼と同じ懸念を抱い
ているそうです。
AIが、文章を作成してくれ、人間が作成をしたのと変わりがないと言う事なのであれば、人は
楽になるのでは？と思ってしまいますよね？
高性能のAIが文書を編み出す危険の理由とは？
AIが文章の作成するのが人間と同じレベルで作成が出来るのがなぜ問題なのか？
今回その危険性に対しての論文を公表したのがOpenAIです。
今回公表されたのは、生成技術の論文だそうで、公開をした理由として通常利用とはことなり
悪用される可能性があり、それを防ぐためそのところの部分を公表したそうです。
また今回は完全にトレーニングを済ませたモデルではなくそれより小さなモデルの内容となっ
ているそうです。
AIはとても便利で画期的な発明だと思いますが、頭がいい人からしてみたらそれが、大きな危
険に繋がるというそうです。
それは、どうしてでしょうか？と思ってしまいますよね？その理由が現代社会に答えがあるそ
うです。
高性能のAIが文書を編み出す性能は？１
AIが文章の作成をする事が危険となるのかがなぜ？と思ってしまいますよね？それは
１ツイート分の文章から長文を作成することが確認されたからなのです。
GPT-２と言うソフトに、800万というWEBページから抽出した40GBのデータを学習させたそ
うです。
以前にも行ったそうですが、今回は前回の10倍の量だそうです。
データセットは、Reddit内の検索で、最低でも３つの高評価が付いているものを収取。
トレーニングが完了したAIに短い文を作成した後、実に自然な文章の作成をしたそうです。
ただ、技術的・難解のものにたいしては、てこずるそうですが日常的な文章で有れば、50％の
確率で納得がいく内容だったそうです。
高性能のAIが文書を編み出す危険とは⁉その性能とは？２
実際にAIが作成をしたと言われている文章が有ります。
人が書いた文
アンデス山脈の中でも遥か遠く、これまで人類未踏だった谷で、科学者がユニコーンの集団を発見したと衝撃の報告があった。さらに驚きなのは、ユニコーンが完璧な英語を話したことだった。
ここからはAIが作成したとされる文
科学者はこの群を、その特徴的なツノにちなんで、オウィディウスのユニコーンと名付けた。4本のツノと白銀の毛並みを持つこれらの動物は新発見だ。
約2世紀にかけて謎とされてきた現象のルーツがついに解明されたと言える。ラパス大学の進化生物学者であるJorge Pérez氏と数人の研究者がアンデス山脈を探索していたところ、動物も人もいない小さな谷にたどり着いた。そこでPérez氏は、二つの岩山と銀の雪に囲まれた天然の噴水を発見した
と作成をしたそうです。
このAIは、文書のクセなどの真似も得意としているそうです。
これは凄いですよね♪そうなると本当に企画書なども作成をしてくれる時代が来るかもしれな
いですよね♪
高性能のAIが文書を編み出す危険とは⁉その真相は？
今回の文書作成がたのAIはとても人類にとって、良いことのように思えますがそがそうとも言
えないのです。
その理由は、フェイクニュースが超高速で作成されてしまい、それが拡散されてしまう事だそ
うです。
実験で、既にフェイスニュースを作成している子事も確認されているそうで、しかも題名に
沿った内容で引用も使っていて、普通に読めてしまう内容だったそうです。
スマホが当たり前の社会で、検索した内容をみて納得してしまう社会では、嘘が広まってしま
う危険があるそうです。
そして、その記事を作成にかかった時間はたったの15秒だそうです。
普段ならそれでもいいのですが、災害時などでネットが使える環境かでこのようなフェイス
ニュースがあったら大変は事になりますし、それを悪用されてしまうと重大な被害が出てしま
う可能性があるそうです。
それは、フィッシング詐欺・オンラインでのなりすまし・ハラスメントなどの自動化だそうで
す。
以前からネットに有る情報は殆どが嘘などと言われていますが、より本当と嘘の境が分からな
くなってしまいますよね？
高性能のAIが文書を編み出す危険とは⁉イーロンマスクが語る危険とは
AIは今現在本当に良いのですが、一度手の平を返したら、人間にはとても手に負えない存在で
あることは間違いないですよね？そのため、イーロン・マスク氏やスティーブン・ホーキング
氏たちが危険や人類が持ってはいけないものだと言っているのも分かりますよね。
その為、今後は情報と言う情報をちゃんと調べる必要がありそうですね。
最後まで読んで頂きましてありがとうございました