便利さと信頼は、なぜ両立設計が必要なのか ── AIの利活用と機密情報保護の現在地

はじめまして。Acompanyの平岡です。AIセキュリティプロダクト「Acompany セキュアチャット」のTech PdMを務めています。普段は、プロダクトの技術的な方向性に責任を持ちながら、商談にも同席してお客様の声を直接聞く、 開発と顧客接点の両方に足を置く立場で仕事をしています。

この記事では、その両方の立場から見えてきた「便利さと信頼を最初から両立させる」ことの難しさと、その先に見えている可能性についてお伝えしたいと思います。

-Acompany セキュアチャット

「使いたいけど、使えない」 お客様のリアル

商談の場で、何度も聞いてきた言葉があります。

「AIで業務の生産性を上げたいのはもちろんある。でも、うちの顧客の個人情報や社内の機密文書を、外部のAIにそのまま渡すわけにはいかない」

その言葉には、AIへの期待と、情報管理責任者としての慎重さが同居していました。「禁止か許容か」の間で揺れているというより、「両方を実現できる方法があるなら使いたい」というニーズが、そこにはあります。

ここ最近、こうした声の解像度が明らかに上がってきていると感じています。少し前までは「AIはよくわからないけど、なんとなく心配」というレベルの懸念が主流でしたが、最近は「入力したデータがどこに送られ、誰が見られる状態になるのか」「学習に使われてしまうのではないか」「ログはどこに残るのか」といった、具体的で本質的な問いに変わってきています。AIへの理解が深まったぶん、機密情報がどう扱われるのかというセキュリティ面への感度も、はっきりと高まってきています。

このジレンマの背景には、構造的な問題があります。2023年のSamsung事案（社内ソースコードがChatGPTを通じて外部に漏洩）や2025年のDeepSeek事案（100万件以上のユーザーデータが認証なしで露出）が示すように、AIを利用する過程でデータがユーザーの管理下を離れるという問題は、今や無視できない現実です。「外部のAIに情報をそのまま渡す」という行為そのものが、リスクの起点になっています。

お客様が感じているのは、そういう地に足のついた危機感です。

「うちが持っているデータを使えば、大きな生産性向上が見込める業務がある。でも、情報を外に出せないという一点で、AIを活用できていない」

たとえば、契約書のレビュー、社内ナレッジの横断検索、設計図面の解析。

本来であれば、AIが最も価値を発揮できるはずの業務領域です。にもかかわらず、情報の機密性という壁によって、そうした領域ほどAI活用から取り残されています。

セキュリティだけでは足りなかった

「安全なら使いたい」というニーズから、実際にトライアルが始まることがあります。そこで気づかされたのが、セキュリティ基盤への信頼だけでは十分ではないという現実でした。

お客様が求めているのは、安全であることに加えて、実際の業務の中でストレスなく使えること 。

つまり使い勝手です。初期のトライアルでは、個人情報の自動検出・マスキング機能について「一部が抜ける」というフィードバックをいただいたことがあります。

「セキュリティの仕組みは理解できた。ただ、精度面でもう少し磨いてほしい」そういった声です。

この経験を受けて、精度の改善はもちろん、複数のチャットを同時に扱えるマルチウィンドウ対応や、Web上の情報を横断して調査できるDeepResearch機能など、実際の業務での使い勝手を高める機能を継続的に開発してきました。セキュリティと使い勝手の両方が揃って初めて、お客様に本当に使っていただけるプロダクトになります。

-リリースノート一覧

この気づきは、開発者側の思い込みを壊してくれました。「技術的に正しいものを作れば使われる」という前提が、現場に出るたびに揺らぎます。

顧客の声が、プロダクトの優先順位を変えた

開発サイドで動いていると、「これは必要なはずだ」という仮説が積み上がっていきます。しかし、その仮説がお客様の声と一致しないことは、思っていた以上に多くあります。

ひとつ具体例を挙げます。

社内ドキュメントを参照しながらLLMが回答するAgenticSearch機能は、開発チームの中で「重要な次ステップ」として位置づけられていました。多くのAIチャットツールが競争領域として力を入れている機能でもあります。しかし、実際にお客様と対話を重ねる中で見えてきたのは、現時点ではそこまでのニーズが出てきていないという現実でした。優先度は当初の計画から下がっています。

代わりに優先度が上がったのは、CADファイルなどの技術図面への対応と、使用するAIモデルを自動で最適選択する機能です。製造業や建設業のお客様からは、設計図をAIで扱いたいという具体的な業務ニーズが出てきました。モデルの選択をユーザーに委ねるのではなく、用途やコストに応じて自動で切り替えてほしいというニーズも、実際の利用が進むにつれて浮かび上がってきました。

「お客様の言うことを全て聞く」ということではありません。技術的なフィジビリティと、プロダクトの中長期方向性と、目の前のお客様のニーズを照らし合わせながら、優先順位を判断していきます。その判断の根拠に、「実際の顧客との対話」が欠かせません。

開発者の視点だけでは見えない課題が、顧客接点に立つと鮮明に見えてきます。逆に、商談だけでは得られない技術的なフィジビリティの感覚が、開発側の視点から顧客の期待をキャリブレーションする助けになります。

その両方を行き来していることが、今の自分の仕事の核心にある気がしています。

便利さと信頼は、後から足せない

ここで、私たちが取り組んでいる技術的な核心について少しお伝えしたいと思います。

Confidential Computingという技術があります。正直なところ、説明が難しい技術です。エンジニアに話しても、「処理中のデータまで暗号化する」という概念を直感的につかんでもらうまでには時間がかかります。非エンジニアのお客様には、まずアナロジーから入ります。

「密閉された処理室」。

データはその中でだけ処理され、外にいるAcompanyもMicrosoftのようなクラウド事業者も、中を覗くことができません。

Confidential Computingは、AIの処理環境にこの「密閉された処理室」を作る技術です。

なぜこの技術が必要なのか。

従来の暗号化は「通信中」と「保存中」のデータを守ります。しかし、AIがデータを処理する瞬間 、つまり「使用中（in-use）」の状態は、データは復号されてメモリ上に展開される必要がありました。

そこが攻撃者にとっての狙い目であり、プロバイダーが理論上アクセスできてしまう領域でもありました。

Confidential Computingは、CPU/GPUに搭載されたTEE（Trusted Execution Environment：信頼された実行環境）というハードウェア機構を活用することで、処理中のデータまで保護します。

その結果として、お客様のデータの中身は、MicrosoftのようなクラウドベンダーもAcompany自身も見ることができません。

「信頼してください」という言葉ではなく、技術的に「見えない」状態を作る。

これが私たちの「両立設計」の核心です。

そして、これが説明の難しさの本当の理由でもあります。この保護は、アーキテクチャの後半で追加しようとすると、設計全体を作り直さなければなりません。

「便利なアプリをまず作って、セキュリティを後から足す」では届かない領域があります。

だからこそ Acompanyは最初から「クラウドベンダーやサービス提供者すら信頼しない」という脅威モデルを設計の前提に置いています。

その制約の下で、通信中・保存中・処理中のすべてのフェーズでデータを秘匿化しながら、ユーザーにはその存在を意識させないUXを提供する 。

これが、私たちが向き合っている難しさです。

最近だけでも、秘匿化された環境の中でLLMを稼働させ、PDFや画像のファイル入力に対応し、個人情報の自動検出・マスキングの精度を正規表現やNER（固有表現認識）モデルの改善によって引き上げてきました。

さらに、SKR（Secure Key Release）対応を進め、Web検索機能を統合し、複数のチャットを同時に扱えるマルチウィンドウ対応も進めています。

通常のクラウドアプリケーションであれば難なくできることが、この脅威モデルの下では一つひとつが技術的な挑戦になります。

作って終わりではなく、使われるところまで

設計思想を現実のプロダクトに落とし込む過程で、チームで続けているのがドッグフーディングです。

社内で日常的に自分たちのプロダクトを使うことで、「細かいUIの引っかかり」が見えてきます。技術的に正しい実装でも、使ってみると一手間多かったり、エラーメッセージが分かりにくかったり。こうした発見はGitHub issueとして上げられ、開発のサイクルに戻っていきます。

「自分たちが使いたくならないプロダクトを、お客様に自信を持って届けることはできない」

これはチームの中で繰り返し出てくる言葉です。Confidential Computingという高度なセキュリティ基盤を保ちながら、体験として違和感のないUIをどう実現するか。この問いを、外から眺めるのではなく、毎日使うユーザーとして問い続けます。

世の中にまだ参照できる先行事例がほぼない設計領域で、自分たちで設計パターンを切り拓いていく必要があります。その過程で確かめられることは、開発チームの外にあるお客様の声と、自分たちの日常的な使用の中にあります。

実は私は今年で新卒2年目で、入社1年目からこの領域に関わる機会をもらいました。

「技術は誰のために、何のために作るのか」

その問いが、商談の場でお客様の言葉を聞くたびに、開発の中でチームと議論するたびに、自分の中で解像度を増していきます。

便利さと信頼の両立は、技術を作って終わりではありません。お客様に実際に使ってもらい、現場で機能するところまで責任を持つ。その意識が、Acompanyの「両立設計」を支えていると思っています。