AIが作り出す現実そっくりの映像。いま、AIの進化が、様々な問題を引き起こしています。
■フェイクが動かす世界 プーチン大統領、ローマ法王まで
アメリカ国防総省・ペンタゴン。付近から立ち上る大きな黒煙…。
5月22日、SNS上で“ペンタゴン近くで爆発”とのコメントともに拡散した画像…。実は、AIで生成されたとみられるフェイク画像です。
ところが、この画像を、金融情報を扱うブルームバーグ通信との関連を 装った偽アカウントが報じ、ダウ平均株価が一時80ドル近く下落します。
こうした例に限らず、今、人が書いたような文章やフェイク画像を自動で生成するAIが様々なところで問題を引き起こしています。
「高級そうなダウンコートに身を包んだローマ法王」、「警官に取り押さえられるプーチン大統領」…。どちらもネットに出回った偽画像です。
また5月16日、韓国を訪れ、尹大統領に支援を要請したゼレンスキー大統領の妻オレナさん。彼女についても、ブランド品に身を包んだ画像が…。実際は、別の人の写真からねつ造されたものです。
■G7サミットでも協議 世界はAIにどう対処
いまや世界的注目を集めるAI。先日のG7広島サミットでも主要な議題となり、各首脳は、国際ルール作りを進めることで合意しました。
松本総務大臣
「生成AIについては、世界的に期待だけではなく不安も広がる中で、G7の首脳間で議論が行われ、まさに時宜を捉えたものだった」
■本物の岸田総理！？その驚きのIA技術とは
さらに5月はじめ、AIに関する次世代リーダーと岸田総理との意見交換会が総理官邸で開かれました。そこで、ある参加者がマスク型のマイクで話し始めると・・・
AIスタートアップ創業者・安野貴博さん
「百聞は一見にしかずということで、まずデモをさせていただきます。聞こえますでしょうか？このマスクをつけるとリアルタイムに私の声が総理の声に変換されて聞こえる。2時間ほどかけて総理の声をパソコンに覚えさせたものになっておりまして」
岸田総理そっくりの声で語る参加者。事前に総理の声をAIに学習させ、自分の声を即座に変換させる仕組みを作り上げたといいます。
AIによって作られる、きわめて精巧な画像や音声による「ディープフェイク」。総理にこの技術を披露した安野さんは・・・
安野貴博さん
「今までは実際に映像があったり、音があったら、それを無条件に信じられたと思うけど、こういったディープフェイクの技術があると、本当に起こってないことでも、映像を作ったりできてしまう。何を信じて良くて、何を信じちゃいけないという基準がどんどん変わってきている」
■AI技術で詐欺事件も・・・
実際、すでに中国ではAIを悪用した詐欺事件が発生。そこで、こんな動画が・・・
詐欺への注意を呼び掛ける動画
「あなたがインターネットでやり取りをしている女性はこう？こう？でも本当はこんな顔かも、こんな顔かも」
中国のSNSに投稿された、詐欺に対し注意を呼びかける動画。女性の顔がAIによって次々と変わり、最後にこう注意を促します。
詐欺への注意を呼び掛ける動画
「ネットでのやりとりはリスクがあるから、気を付けて」
実際、中国福建省では4月、会社役員の男性が、友人をかたる人物からのビデオ電話で、「入札のために保証金が必要だ」と言われ、およそ8500万円をだましとられる事件が発生。
男性はビデオ電話の相手を、顔と声から友人だと信じ込みましたが、AIを使った偽物だったのです。
中国市民街録
「AIは人を助けるためだったのに、詐欺に使われてしまった。最初にニュースを見た時は本当に残念だと思った」
■顔、声も変えられるAI技術。その未来は・・・
今回、岸田総理と意見交換をしたAIの専門家・安野さんはこんな動画を公開。安野さん自身の声や見た目が徐々に変化していきます。
安野貴博さん
「ディープフェイクのボイスチェンジャーの声の見抜き方についてお話しようと思います。ディープフェイクというのはすごくリアルな音とか映像とかを作る技術なんです。私もディープフェイクの技術で顔と声を変えてお話をしています」
こうしたAIについて、おととい開かれた政府の戦略会議では、リスクに配慮しながらも、国産ＡＩ開発に積極的な姿勢を示しました。
片や5月16日、アメリカ議会の公聴会で、「チャットGPT」を開発した
オープンAI社のCEOが初めて証言。自ら開発した技術に警鐘を鳴らしました。
オープンAI・アルトマンCEO
「ますます強力になるＡＩのリスクを抑えるため、政府の規制や介入が重要です」
人々の生活を豊かにする一方で、徐々にコントロールが難しくなる先端技術。こうした進化に人間はどう対応していけばいいのでしょうか…
（サンデーモーニング2023年５月28日放送より）
▼TBS NEWS DIG 公式サイト https://newsdig.tbs.co.jp/
▼チャンネル登録をお願いします！
http://www.youtube.com/channel/UC6AG81pAkf6Lbi_1VC5NmPA?sub_confirmation=1
▼情報提供はこちらから「TBSインサイダーズ」
https://www.tbs.co.jp/news_sp/tbs-insiders.html
▼映像提供はこちらから「TBSスクープ投稿」
https://www.tbs.co.jp/news_sp/toukou.html
声優が不要になる日も近い😄
AIに、この文章はAIが書いた文章か？と聞いたら「はい私が書きました。」と言ったとニュースになってたから同じように動画や画像もあなたが作成したのか？と聞けば「はい私が作成しました」と返すんじゃないの？
騙されたり簡単に信じてしまう人は、AI生成だろうがアムウェイだろうが騙される
ゼレンスキーのような著名人のディープフェイク動画は、本人のアカウントから発信されているかどうか落ち着いて確認するだけだろ
持ちつ持たれつの団体には是非とも野党を攻撃する手段としてディープフェイクを使って頂きたい
とか思ってるのかな？
首がキモすぎる🥺🤞
技術に対する理解が無いとだまされると思うけど、
コロナでデマ情報が拡散されるような世の中でそんな人は１０人に一人だと思う。
ますますメディアリテラシーが問われますね
現メディアの皆様はご自分の立場をどう考えられるか、是非伺いたいものです
ファクトチェックが必要ですよね。日本の醜いネットウヨも嘘が多すぎる。やれやれ。
散々、コロナ茶番劇を煽ったメディアが悪用しそうな技術ですね。
最終的には全くわからないとこまでいくしょ。
そのうちに実家の家族と連絡していたのか全部AIによるフェイクだったみたいな事が出てくるかもしれない。
もしかしたら既に亡くなっている人と普通に会話をする事が出来るようになるのだろうか。
リアルタイムのボイチェンはマジでSFの世界やなあ
毎日大量に情報が入ってくるのにいちいちその情報一つ一つが正確な物かどうか吟味するとか無理過ぎる
こう言うことが頻繁化すると流出してはいけない画像や動画が出回った時に、AI作成によるフェイクだって言い張る人たちも今後出てくるんだろうな
AIは確かに技術的です。😉✌️
それは傀儡政権であると確信したのです。
これは歴史の人々の中でもある。
AIがストライキする時代が来るかもしれないから、とりあえず組合をつくろう
リアルタイムなディープフェイクや、チャットGPTはAIだとおもうけど、
静止画はAIじゃないでしょ。何でもかんでもAIつける風潮が嫌だな。
音声にいちいちPGPとか埋め込まないとだな。
死人も復活するやん。ええのか悪いのかようわからん。
少なくとも静止画像による情報の信ぴょう性は皆無になった
あんなに首を長くしたら偽物ってバレちゃうじゃん
奇数偶数素数はわかるけどP≠NP予想がわからない人類は
P≠NP予想やナビエ–ストークス方程式の解がわかるAIに圧倒されるでしょう。
AIの規制は必要だけど
しない国がやりたい放題になりそう
一部の（とはいえ大量の）情報の信憑性がこれまでより低くなるんでしょ？程度問題じゃない？テクノロジーに適応しようぜ、日本。発展のためにはリスクをとることも必要。
そんなもん無くても日本人は騙せる
AIに情状酌量、犯罪、再犯率、人類増加傾向、生産性などなど学習させて裁判官をやらせたら厳罰化に舵を切るのだろうか！？
現実はしないだろうが裁判官こそAI化すれば良いと思う。
風をよむシリーズ、コメンテーターの発言まで入れて欲しいです。
AIに関しては未知数なので、法の線引きが難しい
顔、声も似せれるのかよ
特殊詐欺に使われるやん
とりあえず、報道されていることは全部却下。
誘拐やストーカーなども危険ですね。マッチングアプリとか呼び出し系も危険だし・・・
証拠として出されたら、警察も対応に時間かかるので、時間を稼がれちゃいますね。
日本でもAIの情勢などに疎い高齢者などが詐欺の標的になるかも知れませんね
自分の家族や身近なお年寄りなどに注意喚起していかなければ
日本人のテレビは年寄しか観ないから、
アガサ博士：やっと時代がワシについてきたんだね。
盲目に信じる文化は破壊されるということですね
ここまでくると性善説は難しすぎる
より一層、教育、考える力が重要と言うことですね
髪の毛なびくぐらい顔を振ったらさすがに
歪みは出るだろう…
ひとつぐらい緊急的な対処法はあるはず…
フルスピードで騙されるのがワイのAI人生や
怖い世の中になってきましたね。。
古代人にＴＶ電話見せてもにわかには信じないだろう。AIの悪用で偽の画像音声映像が溢れた現代でも、古代人のほうが賢いのかもしれない。อิอิ
バレンシアガで草
怪人二十面相もビックリ
法整備せずに放置したらどんどん格差が広がって治安悪化するだろうね
まぁ、一刻も早くAIに関する法を整えるしかないね。
いつもみたく数年掛けてちんたら決めてたら、不相応な処罰で逃げられんで。
リアルタイムで声変える技術、悪用しか思いつかない。
股間でピアノ弾いてるのも見たことあるけどあれもディープフェイクだったか
TBS、サンデーモーニングがディープフェイクを語るとか滑稽過ぎやろ。
余計なモン作って平和乱すなよというその一言に尽きる。
詐欺が横行する被害が予測される事に対して、一体、露ほどのメリットでも在るのか？ という事を考えた場合、音声や動画や画像を偽造出来る仕組みを全て固く禁止するべきだ。
通信や放送やＳＮＳにて利用禁止にするべきだ。
リアルタイムで音声変換機能なんてトンデモない事。どうやってニセモノを見分けんの？ 詐欺に悪用され出したらどう責任取るんだ？ 禁止法案はとっくに作られてないのかい。
二重、三重、の本人認証作業が必要となった時、それが我々にとってどれほど時間と労力の損失となるか。
音声と映像が大規模に詐欺に使われて戦争が勃発したりしたら後悔しても遅いぞ？ そうなると時間や労力の損失どころの話じゃない。
なりすまし詐欺専用機能みたいになり得る物事は固く禁止するしか道は無い。そんなもん必要ない。