チャットAI「ChatGPT」のサイバーリスク


最近ブームともいえる AI チャットボットの「 ChatGPT 」は、現時点でID登録すれば無料で使用できるためかOpenAIの登録者が既に1億人以上とのことなので、とてつもなく数多くの場面で活用されていることが推測できます。

数多くのセキュリティベンダーや専門家がその脅威を指摘しているように、 ChatGPT は優秀すぎるが故にサイバー犯罪などに悪用される可能性があり、そして、それがどのように使用されているかの実態をすべて把握するのは困難です。
プログラミングできる能力もあるので、スキル不足の犯罪者であっても手軽にマルウェアを作成できてしまうことが検証されていることも怖ろしいことですが、むしろ安易に フィッシング メールの作成に使用されるだろうということは、誰でもたやすく想像できます。

無作為のメール受信で誰もが経験しているように、自動で大量送信されていると思われるいわゆる迷惑メールは、その文章もワンパターンで、いかにも同じ文章を使いまわされていると感じるものが多いです。
一方、標的型攻撃に使用されるような フィッシング メールは、文章もきちんと構成された違和感がないメール内容となっているのが特長です。
以前であれば、外国語からの翻訳の癖が感じられる文章であったり、その分野では素人っぽい稚拙な用語を使用していたりすることで、かなり疑わしいメールは被害が出る前にわりと発見が可能でした。
しかしながら、 ChatGPT が作成する文章は、どのような会話をするかで、たとえばターゲット先の業種や立場、目的などを細かく指定して参考になるメール内容の作成をお願いすれば、もちろんそのまま使用できるほど完璧ではありませんが、とても参考になる言い回しの内容や構成をアドバイスしてくれます。
これにより、その業界の事をよく知らない、たとえば外国人であってももっともらしい文章を作成することができてしまいます。驚くべきことは、その会社で取り扱っている商品や、会社自身の強み、どのようにアプローチすべきかなども、さまざまな分析を終えたような形で教えてくれます。

これが現時点では無料で使用できてしまうのですから、犯罪者でなくても、コラムなど執筆活動をしているライターなどは、自分が知らない分野の依頼でも文章ができてしまうため、きっと活用にしたくなるに違いありません。
ChatGPT は、「Perplexity」などの検索用目的のAIチャットボットと違い、その会話や回答の元となったソースは要求しない限り示してくれません。
よって、プロのライターであれば、著作権侵害にならないように引用の仕方や、ファクトチェックなどにシビアであるため利用を控えるかもしれませんが、ブログを量産して公開したい一般の人などは、かなり多くの人が利用してしまうだろうと推測できます。

そうなると、 ChatGPT 自身にはある程度 フェイクニュース などを作らないように配慮はされているようですが、善悪の判断や、事実確認がすべてできるわけではないため、 ChatGPT が作成した文章を元に作られたWebページが世界中に量産されることによって、得体のしれない偏った情報が充満する可能性があります。
これによって、それまではマイナーであった事柄が、あちこちのネットで散見されるため常識と思われたり、意図しない情報の拡散で思いもよらぬ偏見が生まれたりする可能性があります。
現時点でこそ、 ChatGPT は2021年までの情報を元に判断しているようですが、今後最新の情報を習得していくにあたって学習元のデータに自身が作成した文章が大量に入ってくるわけで、とても想像できないような偏見に満ちた情報でネット上が充満してしまうのが予想されます。
それは、誰かにとって不利益となることでも、大多数の意見としてまるで正義であるかのように誤解され、明らかに困る人たちも増えていくことでしょう。また、その特性を活かして商売に活用し、誰かが迷惑するかもしれない裏で儲けを拡大することもできるでしょう。

明らかに悪意をもった サイバー攻撃 などに使用しなくても、 ChatGPT の悪用は、素人でも容易に想像できます。たとえば、有料のネット英会話教室の先生が、実は ChatGPT だったり、マッチングアプリの会話の主が ChatGPT であるなど、犯罪と言えるかどうかわからないような使用法も考えられます。 将来精度が上がれば、 テレワーク 先に報告していた上司との会話が ChatGPT だったとかいういたずらのような不正も起きそうな気がします。
ChatGPT のような AI チャットについては、利便性の向上とは裏腹に、リスクも多くそれを回避させることが今後重要課題になるでしょう。


ChatGPT は、活用が進め進むほどリスクの増大が予想される


AI , チャットボット