AI を悪用する偽サイト

 Generative Engine Optimization

最近の詐欺メールは、一目で見分けがつかないくらい巧妙になっているようだ。それは生成 AI を悪用する手口だ。生成 AI 検索エンジンは、ネット上にある情報をコピペして答えをまとめているだけだから、偽サイト側が、 信頼性のある情報のように見せかけると、AI は騙されて、それを引用したり「おすすめサイト」としてリンク付けしてしまう。すると普段からAI をありがたがるユーザーは、偽サイトにアクセスしてしまう。

もともとこれは、企業などが自分のサイトへのアクセス数を増やすために、AI に引用されやすくしたり、リンク付けされやすいように情報の作り方を工夫する。例えば客観的な数値データを示したり、専門家の意見をのせて権威づけたりする。このように、情報コンテンツを生成AI 向けに最適化するのを GEO (Generative Engine Optimization) というそうだ。これについて最近、日経新聞に下記のような記事があった。