【声優も困惑】“ニセ音声”を10秒でAIが作成　SNSでも投稿相次ぐ…問題は？

AIで本人に近い音声が簡単に作成でき、SNSで投稿が相次いでいます。有働由美子キャスターの音声をAIに学習させると、すぐにニセの音声が完成。AIが音声を作成するのは違法ではありませんが、悪用のリスクもあり、声優から困惑の声も上がっています。

この動画の記事を読む＞
https://news.ntv.co.jp/category/society/089f8de5a7e248988e95c8eae18c5925

■生成AIのニセ音声…クオリティーは？

佐藤梨那アナウンサー
「有働由美子キャスターのような声に聞こえる、『こんばんは。news every.です。今夜は3時間お付き合いください』という音声があります。これは生成AIが作ったニセモノの音声です」

「SNSでは『#歌わせてみた』『#aicover』といった投稿が相次いでいて、例えばアニメ『名探偵コナン』のコナン君や著名人の声で、全く関係のない曲を歌わせる動画が数多くあります。声優側からは困惑の声も上がっています」

■「ニセの声」が勝手に作られる恐れも

小野高弘・日本テレビ解説委員
「問題は、簡単に作れてしまうことです。サイバーセキュリティー会社のトレンドマイクロに協力していただき、4秒ほどの（有働さんの）音声サンプルをAIに学習させました。これをソフトに取り込んで、読ませたい文言を打ち込みました」

「（すると）わずか10秒ほどで、AIが音声を作ってしまいました。（有働さんのニセモノの音声で）『私はタイガースより、ジャイアンツのファンです』とも言っています」

佐藤アナウンサー
「声は（まるで）有働さんですが、阪神ファンの有働さんは絶対言わないことを言っていますよね。本当に簡単にできてしまうのですね」

小野委員
「何だってしゃべらせてしまう、ということです。トレンドマイクロの担当者は『ソフトをダウンロードすれば、誰でも無料で作ることができます。その一方で、自分のニセの声が勝手に作られてしまう恐れもあります』と注意を呼びかけています」

■声優の団体「肖像権のようなものがない」

佐藤アナウンサー
「そもそもAIでニセモノの音声を作ることは問題ないのでしょうか？」

小野委員
「著作権法では、AIに著作物を学習させること、つまり誰かの音声を録音したものをAIが読み込むことは認められていて、作ること自体は違法ではありません。ただ、声優たちは困っています」

「大手声優プロダクション約50社が所属する日本声優事業社協議会は『声には肖像権のようなものがなく、無断で使われた場合の対応が難しい。作った音声でわいせつな言葉を言わせる、ウソや脅迫といった犯罪行為をされたら困る。今後の対策を協議中』と言います」

■落合さんに聞く…ルール作りは？

佐藤アナウンサー
「AIでかなり本人に近い音声ができているということですが、どう見ていますか？」

落合陽一・筑波大学准教授（「news zero」パートナー）
「僕は自分の声のAI音声を実際に使っていて、例えば展覧会の作品の説明をしている声がAIだったり、学生さんが遊び心で勝手に僕の声で電話をかけたりしています」

佐藤アナウンサー
「悪用される可能性を指摘する声もありましたが、今後ルール作りはどうしていくといいでしょうか？」

落合さん
「レギュレーションをかけると産業の発展が止まるので、僕は規制には反対の立場です。冷静に考えてみれば、新しい技術を使って犯罪が起きた時、取り締まられるべきは犯罪行為であって、技術ではないと思います」

「例えば『お母さん助けて』というAI音声を使ってオレオレ詐欺が起きたら、取り締まるのは詐欺行為それ自体です」

「合成音声を作ること自体を取り締まるのではなく、例えばわいせつな音声を作ってアップロードされたら、名誉棄損など取るべき措置を取るのがいいと思います。そこの使いようです」

佐藤アナウンサー
「取り締まるべきはAIではなく使い手のモラルということですね」

落合さん
「（公正な利用の場合、著作権の侵害にならない制度である）フェアユースの導入などがあるかもしれません」
（2023年9月26日放送「news zero」より）

📌チャンネル登録はこちら
https://www.youtube.com/channel/UCuTAXTexrhetbOe3zgskJBQ?sub_confirmation=1

◇日本テレビ報道局のSNS
Twitter https://twitter.com/news24ntv
TikTok https://www.tiktok.com/@ntv.news
Facebook https://www.facebook.com/ntvnews24
Instagram https://www.instagram.com/ntv_news24/

◇【最新ニュースLIVE配信中】日テレNEWS HP
https://news.ntv.co.jp

#AI　#声優　#合成音声　#日テレ　#newszero　#ニュース