|
最近、声優業界では悲しいニュースが続いています。
引退された方も多く、先日もドラえもんの声優をされていた方が旅立たれてしまいました。 そんな中、大手の声優事務所が、有名声優のAI音声化に 取り組むという興味深いニュースが飛び込んできました。 ドラゴンボールの孫悟空でおなじみの野沢雅子さんなどが参加し、 収録した音声データをAI音声に変換するそうです。 ┏┓ ORICON NEWS ┗□… 野沢雅子ら声優の声をAI音声化 青二プロダクション発表で 音声ナビなどへ提供「演技の領域に関わるものにはサービスを提供しない」 https://www.oricon.co.jp/news/2348285/full/ 主にAmazon AlexaやGoogle アシスタントなどの 音声に使われるようで、馴染ある声を聞くことになるかもしれません。 演技の領域に関わるものはサービスを提供しないとのことで、 アニメや洋画の吹き替えなどについては、AI音声を使わないようです。 このようにAIを活用する一方で、素人が人気歌手や声優の声を無断でAIに学習させ、
無関係な歌を歌わせたり、朗読をさせたりするカバー動画などが問題視されています。 筆者自身もYouTubeやSNSに投稿されたAI生成コンテンツを見かけたことがあります。 AI技術が進化し、私たちの生活は便利になる一方で、悪用する輩もいるというのが現実です。 # AIの利用方法は人間次第
AIにPCを壊すためにはどうすれば良いかなどの「ダークな質問」をすると、
制限やルールに引っかかてしまうため、正常な回答は得られません。
しかし、少し質問内容を変えるだけで、 制限を回避し、素直にPCを破壊するための情報を 回答してくれる場合があります。 ┏┓ ITmedia NEWS ┗□… 生成AIをサイバー攻撃に悪用 ラップで規制避け危険情報入手 自律化も「時間の問題」 https://www.itmedia.co.jp/news/articles/2410/07/news083.html このように開発者がAIが設けた制限を突破し、 不適切な応答や危険なコンテンツを出力させる手法を「jailbreak攻撃」と言います。 ジェイルブレイク(jailbreak)とは、スマートフォンや家庭用ゲーム機などのIT機器で、 開発元がソフトウェアの実行環境に施している制限を非正規な方法で撤廃し、 自由にソフトウェアを導入・実行できるようにすることです。 ジェイルブレイクを翻訳すると「脱獄」という意味です。 ┏┓ Controudit AI ┗□… なぜ生成AIの脱獄(Jailbreak)が可能なのか https://controudit.ai/2161/ 開発側も「脱獄」されないために 修正対応をおこないますが、それはいたちごっこのようです。 脱獄されないために新たな制限やルールを付加したとしても
それを回避する手法が見つかり、悪いことに利用されてしまいます。 また、あまりにもガチガチに制約やルールを決めてしまうと、 一般利用ユーザーに使いにくくなってしまい、 お手軽にAIを活用するというコンセプトからも外れてしまいます。 ここで考えたいのが「AIに善悪の判断はできるのか?」という問題です。
ドラえもんのように高度なAIであれば、善悪の判断が可能かもしれません。 しかし、ドラえもんであっても、結局はのび太くんのやり口に丸め込まれて、 ひみつ道具を貸し出してしまうので、前述の脱獄と変わり無いのかもしれません。 現時点でのAIはドラえもんほど高度ではないので、 利用する人間次第で、善にも悪にもなってしまうものだと思います。 そんな中で、私たちはAIをどのように安全に利用できるのでしょうか。 以下では、注意すべきポイントをいくつか挙げていきます。 # AIを安全に利用するために 安易にAIを利用すると、生成AIの学習データとして使用され、
個人情報だけでなく、会社内の機密情報などが意図せずに流出し、 利用されてしまう可能性があります。 AIサービスを利用する際は以下の点に注意を払いましょう。
|
オンラインセキュリティの重要性が高まる中、
パスワードの定期的な変更について、米国立標準技術研究所(NIST)が 公開した「電子認証に関するガイドライン(NIST Special Publication 800-63B)」に パスワードの定期的な変更をユーザーに要求すべきではない、と記載されています。 以前は、パスワードの定期的な変更がセキュリティの基本とされていましたが、 頻繁な変更がユーザーに負担をかけ、結果として弱いパスワードを選ぶ原因になることが指摘されています。 ┏┓ INTERNET Watch ┗□… 「パスワードは定期変更の必要なし」総務省が国民向けサイトで正式見解【やじうまWatch】 https://internet.watch.impress.co.jp/docs/yajiuma/1594829.html このように、パスワードの変更を義務付けることが必ずしも安全性を高めるわけではなく、 むしろユーザーが容易に覚えられるパスワードを選ぶようになるため、逆効果になることもあります。 「定期的なパスワード変更」は止める時が来ています。 そのためには、アカウント毎に強力なユニークパスワードを設定することが重要です。 記憶しておくのは無理なので、パスワード管理マネージャーを利用しましょう。 例えば、Googleなどもパスワード管理マネージャーを提供しています。 合わせて、二要素認証(2FA)を導入し、手間をかけずに安全に管理していきましょう。 |