AIとオンライン詐欺：可能性とは？

LexisNexis Risk Solutionsのソリューションコンサルティングディレクター、ジョアン・ウロア氏は次のように指摘する。「フィッシングメールの効果を高める手段として、チャットボットは依然として悪用される可能性がある。セキュリティ上の理由でオンラインアカウントへのログインを求めるテキストを生成するのを阻止する仕組みは存在しないからだ」

テキスト読み上げツールのおかげで、人工知能（AI）は音声認証システムを迂回するためにも利用される。「これらのAIシステムはテキストを『読み取り』、サンプリングされた音声を再現できます。同じ原理で声を偽装した『親族』からのメッセージを受け取った事例もあります」とヨハンヌ・ウロアは強調する。この手口はディープフェイクと類似している。

モバイルアプリストアにおけるチャットボットアプリの普及も脅威となり得る。悪意あるアプリケーションの拡散を助長する可能性があるからだ。

ソーシャルエンジニアリング詐欺：拡大するリスク

強力な認証システムの普及に伴い、詐欺師たちは手口を変え、ソーシャルエンジニアリング詐欺を成功させるために努力を倍増させている。

これは「犯罪者が個人の信頼を悪用し、直接金銭を詐取するか、その後の犯罪を可能にする機密情報を入手するために用いる詐欺手法」（出典：インターポール）を指す広範な概念であり、被害者自身が電話口で詐欺師の影響下にある状態で強固な認証を自ら実行することを意味する。

これは一般ユーザーだけに当てはまる話ではない。「一部の詐欺師の手法は非常に洗練されており、財務責任者などの高レベルの専門家さえ騙すことができる」とジョアンヌ・ウロアは語る。

この点を踏まえると、詐欺師による人工知能の活用は企業とユーザー双方にとって現実的な脅威となる。現在の詐欺は個人対個人の形態（詐欺師1人対被害者1人）で実行され、詐欺師の注意が一度に1つの標的に集中しているが、チャットボットやテキスト読み上げツールの活用により、こうした手法が大量展開可能となり、状況が一変する可能性がある。「詐欺コールセンタープラットフォームは対話型エージェントに取って代わられる可能性が高く、これにより詐欺師は規模拡大が可能になるでしょう」とヨハンヌ・ウロアは述べる。

以下は想定されるシナリオです：

• 詐欺師がフィッシングメールを送信する。
• 被害者が個人情報やログイン情報、パスワード、電話番号、銀行担当者の名前をフォームに入力する。
• ボットが銀行に電話をかけ、担当者の声を録音する（声の再現には数秒しかかからない）。
• その後、チャットボットが銀行担当者の声で被害者に電話をかけ、何らかの認証を促したり銀行振込を行わせたりするだけです。

データ機密性のジレンマ

しかしヨハンヌ・ウロアによれば、「詐欺におけるAI利用は依然として限定的であり、現時点でこの種のツールが抱える最大のリスクはデータ機密性に関連している」。実際、対話型エージェントの利用は無害に見えるため、機密性の問題を認識していないユーザーは機密情報を伝達しがちである。

言語モデルがこの情報をどのように処理するかは、依然として謎に包まれている。確かなのは、この情報がチャットボットによって再利用される可能性が高いことであり、これは最近、大手携帯電話会社の開発者を巻き込んだ事例や、同様の問題によりモデルを一時停止せざるを得なかった対話型エージェント編集者の事例によって実証されている。

言語モデルの内部的な限界、機密データのユーザー識別、当該データの機密性、そして個人や企業の文化適応といった要素の間には、予防策の観点でまだ多くの課題が残されている。

AIを活用した詐欺対策

しかし、この状況が暗澹たるものに見えるなら、人工知能ツールがオンライン詐欺との戦いにおいて有用であることもご安心ください。

対話型エージェントという形ではないものの、AIは機械学習モデルを通じて詐欺の検知と防止を支援するために既に広く活用されている。これらのAIアルゴリズムの優れた柔軟性により、オンライン詐欺手法の進化にも効果的に適応できる。膨大な量のデータをリアルタイムで分析し、不正行為を示す可能性のあるパターンを特定する支援を行うことで、「チャットボットはアナリストによる調査の改善に貢献できるだろう」とジョアンヌ・ウロアは述べている。

詐欺を検知する能力だけでは不十分です

詐欺を検知するために設計された強力な認証をより体系化すると、正当な顧客にとってプロセスが長引く可能性があります。LexisNexis® ThreatMetrix®は、従来の不正検知ソリューションを補完する信頼性が高く効果的なソリューションであり、ユーザーエクスペリエンスを大幅にスムーズにします。言うまでもなく、高いセキュリティも実現します。