Notion AIの会話記録が委託先から漏えいか — 入力した情報はどこに残るか?

米Notion Labsは11月9日(現地時間)、Notion AIとのチャット記録が漏えいしたおそれがあると発表しました。

入口は、AIの処理を請け負う委託先への不正アクセスです。社員がAIに入力した情報が、提供会社の先のどこに残るのかが問われます。

30秒でわかるポイント

1分でわかる解説

Notionは、利用企業がAIをどう使っているかを分析する機能「Insights」の処理を、Fireworks AIに任せていました。そのため、チャット記録が委託先のシステムに渡っていました。

記録の大半には、誰が書いたか、どの組織のものかを示す情報は付いていませんでした。ただし、会話の中身に社名や氏名を書いていれば、そこから利用者が分かるおそれがあります。

AIの答えを作る用途とは別に、管理のための分析でも記録は外に渡ります。契約で確かめる範囲は、提供会社だけでは足りません。

ここから考えたい3つの問い

全文を読む(約4分)

クラウド型の業務ツール「Notion」を運営する米Notion Labsは、11月9日(現地時間)に発表しました。Notion AIのチャット記録が漏えいしたおそれがある、という内容です。

原因は、委託先の米Fireworks AIへの不正アクセスです。影響は全ワークスペース(Notionを使う組織ごとの作業場所)の1%未満としています。

Notionの発表によると、経過は次のとおりです。

日付(現地時間)	出来事
11月2日	Fireworks AIがNotionに、一部のデータへの不正アクセスを通知。この時点ではテスト用のデータで、顧客のデータは含まれていなかった
11月3日	NotionがFireworks AIとの接続を切り、同社のシステム上のデータをすべて削除
11月6日	Fireworks AIが、顧客のデータにもアクセスされたおそれがあると通知
11月8日	Fireworks AIが、影響を受けたデータの範囲を確定
11月9日	Notionが影響を受けた利用者に連絡

日本語の公式Xアカウント(@NotionJP)も11日(日本時間)にこの件を発信しました。不明点はメールで問い合わせるよう案内しています。

NotionはFireworks AIを、主に次の用途で使っていました。ひとつは「Insights」のための分類処理です。Insightsは、利用企業が自社のAIの使い方を把握するための機能です。

もうひとつは、公開されているAIモデル(オープンウェイトモデル)をNotionの中で動かす計算です。AIが答えを作る計算そのものを、外部に任せていたことになります。

漏えいのおそれがあるのは、Insightsで使うチャット記録です。大半は、誰が書いたか、どの組織のものかが分からない状態でした。

Notionは、会話の中身を除けば、利用者や会社に結びつく情報は無かったと説明しています。AIが別のツールを呼び出して得た結果も、記録には含まれていませんでした。

たとえるなら、会計を税理士に頼んだら、その税理士が使う外部の会社にも帳簿の写しが渡っていた、という構図です。

立場	対応
Notion	Insightsを停止。Fireworks AIを通じて公開モデルを動かすのもやめた
影響を受けた利用者	記録を漏れたものとして扱う。期間中にAIへ貼ったパスワードや、外部サービスに接続するための鍵(APIキー)を変更する。対象のデータは自社のワークスペース内で確認できる
連絡が来ていない利用者	影響は確認されておらず、現時点で対応は不要(Notionの説明)

Notionは、自社のシステムへの侵入ではないと説明しています。それでも利用者から見れば、預けた情報が漏れたおそれがあることに変わりはありません。

今回の記録は、AIの答えを作るためではなく、利用状況の分析のために外へ渡っていました。便利な管理機能ほど、記録を外に出す理由になりえます。