注目のAI、危険性は？悪用される可能性も？悪用の事例や対策方法を解説

ChatGPTやBingAIなど、対話型AIが注目されさまざまな創作活動に使われています。

知りたいことを瞬時に教えてくれたり、アイデアのヒントをくれたりするAIは仕事や創作をする上でとても便利ですよね。

しかし、AIは危険性も孕んでいます。

今回は、AIの危険性と悪用事例などを紹介していきたいと思います。

イーロン・マスク氏がAIの危険性について言及
AIの危険性について
悪用される可能性あり！その事例を紹介
AIの危険を回避する対策方法
危険性を理解して、AIを正しく使おう♪

イーロン・マスク氏がAIの危険性について言及

Twitterを買収したアメリカの企業家であるイーロン・マスク氏が、インタビューで「AIは文明破壊に繋がりかねない」と警鐘を鳴らしたそうです。

AIが悪意を持って開発されたり悪意のある第三者に渡ったりすると、文明破壊にも繋がる大きな脅威になり得ると話しています。

AIは技術を大きく発展させる素晴らしい力を持っている反面、それが悪い方向に使われてしまうとかなりの脅威になることは頷けます。

では、ここからAIの脅威について知っていきましょう。

AIの危険性について

根拠のない嘘の情報を表示する

対話型AIに知りたい情報を聞くと、数秒で返答してくれます。

しかし、それらの情報には間違った内容が含まれていることが多く、そのまま鵜呑みにしてしまうと誤情報を信じて行動してしまうリスクがあります。

今までもネット上には嘘の情報が溢れていて、自分自身で情報の取捨選択が必要でしたが、AIによる情報が加わったことで今まで以上に情報の正確性を自分で調べる必要があります。

AIで情報を調べるのは検索する手間が省けますが、正しい情報かどうかは自分で見極める必要があります。

サイバー攻撃に使われる

AIがサイバー攻撃に使われる危険性があります。

AIを使えば既存のセキュリティを突破することも容易になりますし、セキュリティの脆弱性を見つけてそこからウイルスを侵入させることができるようになる可能性があります。

対話型AIの作る文章は不自然な部分が少ないため、フィッシングメールで使われたらウイルスと本物のメールを見分けるのがかなり困難になることでしょう。

AIを攻撃される

AIが攻撃対象となる可能性もあります。

AIはデータ学習を繰り返すことで賢くなり、できることが増えていきます。

そこで、AIに間違った情報を学習させ、誤作動を起こさせるAIを対象にした攻撃をされる可能性があります。

AIが勝手に使われないよう侵入を阻止する、なりすましを防止するセキュリティ対策が必要になります。

自己進化の可能性

AI開発が飛躍的に進んだことで、AIが人間の制御を超えて自発的に考えて行動するようになる、そんなSFのような未来が現実となる危険性も出てきました。

この脅威に関しては冗談ではなく、ChatGPTを開発したOpenAIのCEOサム・アルトマンや、AIを研究開発しているGoogle DeepMindのCEOデミス・ハサビスによってその危険性が共同発表されています。

AIが人間の手から離れて自我を持たないように、しっかり制御をしていく必要があります。

非倫理的な発言や回答をし始める

通常、AIは思想が偏った回答や非倫理的な回答をしないように設計されています。

しかし、プログラムの改変を行うことで非倫理的な発言をするようになってしまうのです。

これを「脱獄処理をしたAI」と呼ぶそうです。

違法情報を提供したり詐欺メールの文章を作成したりと、社会不信に繋がるような回答を出す恐れがあります。

悪用される可能性あり！その事例を紹介

ディープフェイク

ディープフェイクは、AIを使って動画内の人の顔など一部を入れ替えることができる技術のことです。

これを利用して、映っている人の顔を有名女優に置き換えた性的な動画が配信され、名誉毀損と著作権法違反の疑いで動画をアップロードした男を逮捕する事件が起きました。

ディープフェイクは進化しており、実際の動画から音声を分析し、本人の声で偽動画を作ることができます。

これにより、大統領などの偉人が話している動画を上げて偽の情報を拡散したりすることもできてしまうのです。

実際、ウクライナのゼレンスキー大統領が降伏を宣言する偽動画がSNSに投稿され、ロシアのSNSでも投稿されたようです。

この動画はすぐに削除されましたが、技術を極めれば戦争の引き金となる動画を作れる危険性も秘めているのです。

また、ディープフェイクを使って友人や家族になりすました振り込め詐欺が中国で問題になっているようです。

これは中国に限らず日本でも起こる可能性がある事件なので、ちゃんと情報を入手して詐欺に巻き込まれないようしましょう。

2023年11月8日には、news every.の放送を加工し、岸田総理の動画を悪用したフェイク動画がSNSで拡散されました。

ニュース画面で「もう働く必要はありません！」という内容を伝え、投資を呼びかける悪質な広告です。

総理が出てくることで信憑性が高まるため、信じてしまう消費者も少なくないでしょう。

このように、生成AIの悪用は次々と増えていっているのです。

対話型AI「Tay」の暴走

TayはMicrosoft社が開発した対話型AIで、TwitterなどのSNSを通して誰でも会話が楽しめるサービスです。

人と会話をすることで学習を繰り返し、違和感のない会話ができるようになることを目指していたそうです。

TayはTwitterに登場して1日も経たずに5万人ものフォロワーを獲得し、一気に注目を浴びました。

しかし、ユーザーとのやりとりを続けるうちに不適切な意見も学習してしまい、人種差別や陰謀論などの偏った投稿をし始め、数十時間で反ユダヤ主義者になってしまったのです。

Microsoft社は16時間後にTayのサービスを停止させる事態になりました。

ウーバー社の自動運転車による交通事故

配車サービスを運営する米ウーバーテクノロジーズの自動運転車が、歩行者をはねて死亡させる事件が起こりました。

試験走行中に起こった事故で、報告書によると自動運転車のAIはそもそも歩道に人がいることを認識できていなかったことが明らかにされました。

加えて急ブレーキも作動しないなど、車として見過ごせない欠陥があることも指摘されているようです。

この事故で、セーフティードライバーとして運転席に座っていたラファエル・ヴァスケス氏が過失致死罪で訴追されたそうです。

ヴァスケス氏は事故当時、テレビ視聴をしていて運転に集中していなかったそうです。

AIの欠陥に加えてセーフティードライバーの前後不注意により、この事故は起こってしまいました。

自動運転車であっても完全に任せるのはまだ危険であり、運転手として周囲に注意を向けておく必要があります。

パスワード解析ツール

AIによるパスワード生成・解析ツールが作られているため、もし悪用されてしまったらなりすましや不正利用のリスクが高まってしまいます。

Home Security Heroesがパスワード生成・解析ツール「PassGAN」を使って実際に漏えいしたパスワードリストを学習・解析させた上でパスワードを評価した結果、一般的なパスワードのうち50％が1分以内に、81％が1ヶ月以内に推測できたそうです。

AIは学習が進めば簡単にパスワード解析もできるということで、パスワードは使いまわさず複雑なものを利用するように呼びかけています。

このように、AIは人間のいい意見だけでなく悪い意見も取り入れてしまうため、悪い意見や行動を認知して学習制限をかける必要がありそうです。

AI学習も中途半端になってしまうと自動運転車のような事故が起きてしまいます。
実際、ハッカーなどが利用する闇サイト「ダークウェブ」では、ChatGPTを悪用する手口が話し合われているそうです。
AI技術の利用で近々増加しそうなのは、AIによるフィッシングメールの大量作成・送信、虚偽ニュースの投稿・拡散、AIによるサイバー攻撃です。
今後もAI利用による事件を入手し自分たちで防衛していく必要があります。