社内で作ったAIツール、危なくないですか
ChatGPTのAPIを使って、社内用のツールを作った。便利に動いている。ただ、これを社外の人にも使わせていいのか、他のお客様のデータが見えていないか、誰も確かめていない。作った本人も分からない。よくある状態です。専門家でなくても確認できる点が、いくつかあります。
こんな状態ではありませんか
- ・社内の誰かが作ったAIツールが、いつの間にか業務で使われている
- ・作った本人が退職した、または他の業務で手が離れている
- ・お客様にも使わせたいが、安全かどうか判断できない
- ・入力した内容がどこへ行くのか、説明できない
自分で確認できること
上から順に見てください。ここで分かってしまえば、それで構いません。
- 1
APIキーがブラウザから見えていないか
ツールの画面でブラウザの開発者ツール（F12）を開き、Networkタブを見ながら操作します。リクエストのヘッダやURLに sk- で始まる文字列が入っていたら、そのキーは利用者全員に見えています。悪用されれば請求はあなたに来ます。
- 2
ログアウトした状態でURLを直接開けないか
ツールの画面のURLをコピーし、シークレットウィンドウで開いてください。ログイン画面に飛ばされれば正常です。中身が表示されたら、URLを知っている人は誰でも使えます。
- 3
他の人のデータが見えないか
URLに id=123 のような番号が入っている場合、その数字を別の値に変えて開いてみてください。他の人の内容が出たら、境界が無い状態です。複数社で使うツールでは、これが一番重い事故になります。
- 4
入力した内容がどこへ行くか
使っているAIのサービスと、そのプランを確認します。学習に使われない設定になっているか、事業者の規約で確認できます。お客様の情報を入れているなら、ここは説明できる必要があります。
- 5
ログに個人情報が残っていないか
動作記録に、入力された文章がそのまま保存されていることがあります。保存期間と、誰が見られるかを確認してください。
- 6
止まったときに原因を追えるか
エラーが起きたとき、いつ・誰が・何をして失敗したのかが分かる記録が残っているか。無ければ、止まった日に打つ手がありません。
よくある原因
動かすことを優先して作られている
内製ツールは「まず動かす」で始まります。それ自体は正しい。ただ、社内の数人で使う前提のまま人数が増えたり、社外に出たりしたときに、前提と実態がずれます。
認証を後回しにしたまま本番になった
URLを知っている人だけが使う、という運用は認証ではありません。URLは共有され、転送され、検索に載ることもあります。
複数の相手で使うときの境界が無い
一社だけで使うなら問題にならない作りが、二社目を入れた瞬間に事故になります。データを取り出すときに「誰のものか」で絞る処理が、全ての場所に入っている必要があります。
AIシステム 安全点検
¥150,000〜1〜2週間で点検し、危ない箇所と直し方を報告書でお渡しします。読んで自社で直していただいても構いません。修正作業をご依頼いただく場合は別途お見積もりします。
よくある質問
点検だけ頼んで、直すのは自社でもいいですか。+
構いません。報告書には、何がどう危ないかと、直す手順を書きます。社内に開発できる方がいるなら、そのまま渡してください。
作った人がもういないのですが、見られますか。+
見られます。むしろ、その状態のご相談が多いです。動いているものから読み取って点検します。
何を見てもらえるのか、事前に分かりますか。+
権限の設定、データの境界、認証情報の管理、記録の残り方の4点が中心です。ご相談の段階でお伝えします。
ほかの困りごと
最終更新 2026-09-16｜株式会社LaruVisona