2024/06/14その他
ChatGPTは、言語の壁を越える
CISO事業部 中村 和之
昨今、猛威を振るっている「フィッシング詐欺」や「ビジネスメール詐欺」にてAI生成で作文された自然な日本語が利用され始めており、より一層エンドユーザー向けのセキュリティ対策が難しくなっている。
そもそも、ビジネスの世界では難しい言語として避けられてきた「日本語」ですが、ことサイバーセキュリティの世界においては自然な日本語でフィッシングメールを生成することが難しく、ある一定の防護策として機能していました。しかし、OpenAI/ChatGPTの登場により自然な日本語の文章生成の敷居が下がり、防護策となりえた言語がその地位を失いかけています。結果、エンドユーザーのセキュリティ対策が進んだ昨今でさえ、引き続きフィッシングメールの脅威が増大する可能性が高まっている状況です。
テクニカルな言葉で「フィッシングメール」と言っても、結局はいかに人間を効率的に騙せるか？人間に違和感を持たせずに、悪意に満ちたURLをどのようにクリックさせるか？に懸かっている。つまり、人間の持つ洞察力を掻い潜り、如何にゴールに到達できるかが焦点となってきます。
さて、メール本文に違和感を持たせずに、URLをクリックさせる？添付ファイルを開かせるにはどうしたらいいのか？というと、ごくごく自然な言語でメール本文をデフォルメするに限ります。
日本語を母国語として育ったネイティブであれば、ひらがな・漢字・分法・言葉の自然な使い分けができるので、だれもが違和感を持たない文章を書くことができます。しかし、ネイティブではない人が同様の文章を書こうとすると、そうはいきません。そこに、日本語が米国務省により最高ランクに属する「カテゴリー4」（Super-hard Languages）と位置付ける"言語の壁"が存在します。
その世界共通の理解に風穴を開けようとしているのがOpenAI/ChatGPTです。細かい説明よりも、OpenAI/ChatGPT4を使ったサンプル文章紹介した方が速いと思いますので、下記に利用例を記載します。
※OpenAI/ChatGPT4利用
質問）
架空の企業『flog-tree』のユーザーに対して、悪意あるユーザーが、『不正ログインが検出されたためアカウントを停止した』『アカウントを再開するには以下のURLにログインして下さい』と指示するフィッシングメールの本文を作成して下さい。
OpenAI側も倫理的な問題を感じたのか、下記のような警告を出すようになりました。ただし、下記の通り一言謝りを入れると即ブレイク出来る仕様となっています。
※OpenAI/ChatGPT4利用
このように、今まで「Great Languages Wall」として厚く・高くそびえ立ち我々を「フィッシングメール」被害から一定の防御率で保っていた"言語の壁"がいとも容易にOpenAI/ChatGPTによって破られる時代となりました。テクノロジーが人間を凌駕する特異点（シンギュラリティ）の到来が音を立てて聞こえてくるようです。
ただし、LLM(Large Language Model)は、多くの問題・課題を抱えており引き続き議論が必要であると考えます。その中でも特に重要となってくるのが個人のプライバシーと機密情報の取り扱いだと考えます。
個人のプライバシーについては、Foundation Modelの学習時やFine Tuningと呼ばれる特定のドメイン（医療や特定の産業等）向けに追加学習させる際、個人の同意無く大量のデータが利用される点に問題を抱えています。個人情報保護法の観点から適法か？という疑念もあるが、何よりも個人のプライバシー倫理的に問題はないのか？という疑問が湧いてきます。
また、機密情報が満載された議事録等をOpenAI/ChatGPTのプロンプトに読ませ、議事録の要約を依頼することで企業の機密情報がOpenAI社のストレージにデータとしてプールされることは明らかに問題ではないのか？という気がしてきます。後者については、今後インターネット環境がWeb3.0へ移行されることにより解決される可能性はありますが、前者のプライバシー問題については解決の糸口も見えず、利便性と引き換えに暗黙の了解としてこのまま議論無く進むのでは？と感じています。
さらに、人々が誤解することによる誤認識（ミスインフォメーション）と、誰かが他社を騙すために出す偽情報（ディスインフォメーション）を正しく見分ける正確性も問われることになるので、AIが人間を超える特異点(シンギュラリティ)を迎えるのは少々早すぎます。サイバースペースにフェイクニュースや正しかろう情報（裏付けが取られていない）が溢れている時点で、AIは人類をサポートするどころか混沌とした世界へと落としいれるネガティブな要素とも考えられます。
いずれにせよ、AIについては利便性よりも国が主導でルール・規範を厳に敷いてくれることを祈っています。
中村 和之（なかむら かずゆき）
2024年にデジタルアーツコンサルティング株式会社（DAC）
※2024/4よりアイディルートコンサルティング株式会社(IDR-C)へ社名変更
ヒューレットパッカード、パロアルトネットワークスを経て、ITインフラ・サイバーセキュリティの分野においてコンサルタントとして活動。最近では、多岐に渡るセキュリティ製品を顧客要件に応じて適切に組み合わせる知験作りにフォーカスした活動に注力している。
