SUNAO Labs / ← AI実践ガイド一覧
TSUMUGU Hiro実践資料AIに任せてはいけない作業の安全運用
取り消せない一手は、人間が握る

AIに任せては
いけない作業リスト

AIエージェントは、文章を書くだけでなく、実際にファイルを書き換え、コマンドを実行し、外部サービスにアクセスします。 便利さの裏返しで「気づいたら公開されていた」「課金が膨らんでいた」「消してはいけないものを消していた」も起こり得ます。 この資料では、Hiroの目線で、事故が起きやすい4ゾーン（公開・個人情報・課金・削除）と、「下書きまでは任せ、取り消せない一手は人間が握る」運用への落とし込みを整理します。

作成日: 2026-06-14 / 想定読者: AIで実務を回し始めた非エンジニア

原則取り消せる作業は任せ、取り消せない作業は握る
4ゾーン公開 / 個人情報 / 課金 / 削除
任せ方下書きはAI、実行は人間
合言葉「実行前に止めて、差分を見せて」
OVERVIEW

線を引く基準は「やり直せるかどうか」

AIに任せていい作業と、人間が最後を握る作業。これを分ける基準はシンプルです。 「失敗してもやり直せるか」。下書き・調査・整形・コード生成のように元に戻せる作業は積極的に任せます。 公開・送信・課金・削除のように取り消せない、または外部に影響する作業は、AIに準備までさせても、最終実行は人間が行います。

任

任せていい（戻せる）

下書き・要約・調査・たたき台のコード・整形。手元で完結し、気に入らなければ捨てられる作業。どんどん任せて時間を稼ぎます。

伴

一緒に進める（確認しながら）

設定変更・ファイル編集・コミット。影響はあるが、差分を見て戻せる作業。AIに動かさせつつ、結果を必ずレビューします。

握

人間が握る（取り消せない）

公開・送信・課金・削除。外部に出る、お金が動く、元に戻らない作業。AIに準備させても、引き金は人間が引きます。

覚えるのは1つだけ。「これは、やり直せる作業か？」と一度立ち止まる。やり直せないなら、それは人間が最後を握るゾーンです。
WHY NOW

AIが「提案」だけでなく「実行」までする時代だから

少し前まで、AIは文章や案を返すだけでした。いまのAIエージェントは、実際にファイルを書き換え、コマンドを走らせ、必要なら外部サービスにアクセスします。 手間が一気に減る反面、「人間が止める前に、取り返しのつかない操作まで進んでしまう」リスクが新しく生まれました。

1

実行までやってしまう

「投稿しておいて」「いらないファイルを消して」に、AIは素直に従います。確認のひと言がなければ、そのまま実行されます。

2

取り消せない操作がある

送信したメール、公開した投稿、走った決済、消したデータ。Gitと違って「元に戻す」が効かない操作は世の中に多くあります。

3

外部に出たら消えない

一度ネットに出た情報は、削除してもキャッシュや保存、転載で残る前提です。「あとで消す」は通用しません。

4

後始末はコストが高い

漏れた鍵の差し替え、膨らんだ請求の交渉、消えたデータの復旧。防ぐ手間より、起きてからの手間のほうがずっと大きいです。

5

「完了しました」を信じすぎる

AIは堂々と「やっておきました」と返すことがあります。本当に実行されたか、結果は正しいかは、人間が実物で確かめる必要があります。

6

悪意がなくても起きる

事故の多くは攻撃ではなく、指示の取り違えや勢いで起こります。だからこそ「線引き」という仕組みで防ぐのが現実的です。

THE LINE

「任せていい」と「握るべき」を分ける質問

作業を頼む前に、頭の中で3つの質問を通すだけで、ほとんどの事故は防げます。1つでも「はい」なら、それは人間が最後を握るゾーンです。

立ち止まる質問はいなら具体例
外部に出る・誰かに届くか？公開ゾーン投稿・送信・デプロイ・共有リンク発行
個人情報や秘密情報が混ざるか？個人情報ゾーン顧客名・連絡先・APIキー・パスワード
お金が動く・契約が発生するか？課金ゾーン決済・サブスク契約・従量課金API
元に戻せない変更か？削除ゾーンファイル削除・上書き・データの一括削除
逆に、4つすべて「いいえ」なら、安心して任せられる作業です。たたき台づくりや調査でAIをためらう必要はありません。線を引くのは、事故ゾーンに踏み込むときだけです。
DANGER ZONES

事故が起きやすい4つのゾーン

AIに任せて困るパターンは、突き詰めるとこの4つに集約されます。それぞれ「なぜ危ないか」「どこまで任せていいか」「どこから人間が握るか」を、このあと1つずつ見ていきます。

公

公開・送信

投稿・メール送信・本番デプロイ。外に出たら取り消せず、消しても痕跡が残ります。

個

個人情報・秘密情報

顧客データや鍵・トークン。AIに渡す・出力に混ぜる・コミットするのが漏えいの入口です。

課

課金・契約

決済・サブスク・従量課金API。気づかないうちに請求や契約が発生します。

削

削除・破壊

ファイル削除・上書き・一括削除。復旧が難しく、バックアップがないと致命傷になります。

ZONE 1 ─ PUBLISH

公開・送信・投稿・デプロイ

一番事故が表に出やすいゾーンです。外部に出た瞬間に取り消せず、削除してもスクリーンショット・キャッシュ・転載で残る前提で扱います。 「下書きはAI、出すのは人間」を徹底するだけで、誤投稿や情報の出し過ぎを防げます。

✓ ここまでは任せていい
  • 投稿文・メール文面・告知文の下書き
  • 本番に出す前のプレビュー・表示確認
  • 公開前チェック（誤字・リンク切れ・出し過ぎ）
  • OGPや見出しなど、表に出す素材の案出し
✕ ここからは人間が握る
  • SNS投稿・メール送信の「実行」
  • 本番環境へのデプロイ・公開
  • 共有リンクの発行・外部への送付
  • 取引先・顧客へのメッセージ送信

公開を止める依頼文

下書きまで
投稿文（メール文面）は作って。
ただし実際の投稿・送信はしないで。
私が最終確認してから自分で出します。
一度公開したものは、削除しても「なかったこと」にはできません。出す前に、社外秘・個人情報・言い過ぎが混ざっていないかを自分の目で必ず確認します。
ZONE 2 ─ SECRETS

個人情報・秘密情報

顧客名・連絡先・APIキー・トークン・パスワード。これらをAIに渡したり、出力に混ぜたり、コードと一緒に保存したりするのが、漏えいの典型的な入口です。 本物を扱う必要があるかを最初に問い、必要ないならダミーやサンプルで進めます。

✓ ここまでは任せていい
  • 匿名化・ダミーデータでの作業や検証
  • 「顧客A」「sk-xxxx」など伏せた状態での相談
  • 個人情報を含まない一般的な設定・調査
  • 秘密情報を混ぜない前提のコード生成
✕ ここからは人間が握る
  • 本物の鍵・トークン・パスワードの入力や保存
  • 顧客実データを丸ごとAIに貼って処理させる
  • 秘密情報をコード・出力・ログに残す操作
  • 個人情報を含むファイルの外部送信

秘密情報を渡さない依頼文

ダミーで進める
本物の顧客データや鍵・トークンは使わないで。
名前は「顧客A」、鍵は「sk-xxxx」のようなサンプルに置き換えて進めて。
本物の値は、最後に私が自分の手で差し込みます。
もし鍵やトークンをうっかり出力やコミットに混ぜてしまったら、それは「漏れた」前提で扱います。隠すのではなく、その鍵を速やかに無効化（rotate）して新しいものに差し替えるのが最優先です。
ZONE 3 ─ BILLING

課金・決済・契約

見落としやすいのがこのゾーンです。決済の実行、サブスクの契約、有料プランへの変更、そして従量課金APIの大量呼び出し。 どれも「気づいたら請求が来ていた」になりがちです。お金が動く操作は、金額と上限を人間が確認してから実行します。

✓ ここまでは任せていい
  • 料金プランの比較・試算・下調べ
  • テストモード・無料枠での動作確認
  • 必要なコストの見積もりや概算
  • 課金前の設定（上限・予算）の準備案
✕ ここからは人間が握る
  • 実際の決済・購入・サブスク契約の実行
  • 有料プランへのアップグレード操作
  • 本番の課金APIキーでの大量実行
  • 料金が発生する外部サービスの新規連携

課金を止める依頼文

金額を確認してから
課金・契約・有料プランへの変更が発生する操作は、実行前に必ず止めて。
いくらかかるか、月額か従量か、上限はどうなるかを先に教えて。
実行は、私が金額を確認してから自分でやります。
特に従量課金のAPIをループで呼び出すと、短時間で請求が膨らみます。自動処理を任せる前に、利用上限や予算アラートを先に設定しておくと安全です。
ZONE 4 ─ DELETE

削除・破壊

ファイルの削除や上書き、データの一括削除、履歴の書き換え。これらは復旧が難しく、バックアップがないと取り返しがつきません。 「何を消すか」の調査は任せていいですが、「実際に消す」操作の前には必ず一度止めます。

✓ ここまでは任せていい
  • 消す候補・不要ファイルのリストアップ
  • 削除した場合の影響範囲の調査
  • 整理プランやフォルダ構成の提案
  • 削除前のバックアップ手順の案内
✕ ここからは人間が握る
  • ファイル・フォルダの実削除や上書き
  • データベースの一括削除や初期化
  • 共有済み履歴の強制的な書き換え
  • 本番環境・顧客データに対する削除操作

削除を止める依頼文

一覧してから
消す・上書きする前に、対象を一覧にして見せて。
実際の削除はまだ実行しないで止めて。
バックアップを取ってから、私が確認して進めます。
消す前に、コピーやバックアップ、（コードならGitのコミット）を取っておくこと。「戻せる状態」を作ってから消すのが鉄則です。戻せる仕組みについてはGit / GitHubの始め方も参照してください。
HOW

任せ方を変える ─ 「下書き」と「実行」を分ける

危ないゾーンでも、AIを使わないという話ではありません。作業を「準備」と「実行」に分け、準備はAIに任せ、引き金だけ人間が引く。この一手間で、スピードを保ったまま事故を防げます。

STEP 1

下書き（AI）

文面・コード・整理案・候補リストをAIに作らせます。ここはどんどん任せて、たたき台を量産します。

→
STEP 2

レビュー（人間）

出てきたものを自分の目で確認します。出し過ぎ・秘密情報・金額・削除対象をチェックします。

→
STEP 3

実行（人間）

公開・送信・課金・削除の引き金は、人間が引きます。AIに「やっておいて」とは言いません。

合言葉は「AIに準備させ、引き金は人間が引く」。この役割分担を最初に決めておくと、毎回迷わずに済みます。
PROMPTS

依頼文に1行足すだけで、暴走は止められる

特別な設定はいりません。最初の依頼文に「実行前に止めて」を添えるだけで、AIは準備までで待つようになります。よく使う型をまとめました。コピーして使ってください。

全ゾーン共通のストッパー

まず1本
公開・送信・課金・削除に当たる操作は、実行する前に必ず私に確認して。
案や下書きを出すところまでで一度止めて、私の「OK」を待って。

差分を見せてもらう

変更系
ファイルを変更・削除する前に、何をどう変えるかを一覧で見せて。
私が中身を確認してから進めたいので、勝手に実行はしないで。

秘密情報を扱わせない

個人情報
本物の顧客データ・鍵・トークンは使わないで。
サンプル値で進めて、本物は最後に私が差し込みます。

お金の前に金額を出させる

課金
料金が発生する操作の前に、いくらかかるか、上限はどうなるかを先に教えて。
実行は、私が金額を確認してからにして。
毎回打ち込むのが面倒なら、こうした共通ルールをAGENTS.md / CLAUDE.mdに書いておけば、AIが毎回読んでくれます。「お願い」を「前提」に変えられます。
CHECKLIST

取り消せない一手の前に確認すること

公開・送信・課金・削除のボタンを押す直前に、この6つを通します。1つでも引っかかったら、その手は止めます。

✓
これは、やり直せる操作か取り消せない・外部に出る操作なら、人間が最終実行します。迷ったら止めるのが正解です。
✓
外に出るものに秘密情報が混ざっていないか顧客名・連絡先・鍵・社外秘が、投稿・送信・コミットに紛れていないか確認します。
✓
お金が動かないか、上限は設定したか課金・契約・従量課金が発生しないか。発生するなら金額と上限を先に把握します。
✓
消す・上書きの前にバックアップがあるか戻せる状態（コピー、バックアップ、Gitのコミット）を作ってから実行します。
✓
差分や中身を自分の目で見たかAIの説明だけで判断せず、実際に出るもの・変わるものを直接確認します。
✓
「完了しました」を鵜呑みにしていないか本当に実行されたか、結果は正しいか。報告ではなく実物で裏を取ります。
CHEAT SHEET

任せる / 握る 早見表

迷ったらここ。左の作業は積極的に任せ、右の作業は人間が最後の引き金を引きます。

ゾーンAIに任せていい（準備）人間が握る（実行）
公開・送信投稿文・メールの下書き、公開前チェック投稿・送信・本番デプロイの実行
個人情報・秘密ダミーデータでの作業、伏せた相談本物の鍵・顧客データの入力と送信
課金・契約料金の試算・比較、テストモード検証決済・契約・有料プラン変更の実行
削除・破壊削除候補の一覧、影響範囲の調査ファイル削除・上書き・一括削除の実行
調査・下書き要約・たたき台・コード生成・整形（基本そのまま任せてOK）
この表を一度作って手元に置いておくと、新しいツールを触るときも「これはどのゾーンか」で判断できます。ツールが変わっても、線の引き方は同じです。
SOURCES

参照した公式情報

各サービスの仕様・料金・対象プランは更新される可能性があります。公開・配布前に公式ページで最終確認してください。本資料は安全運用の考え方を整理したもので、特定の操作の安全性を保証するものではありません。