- 悩み: AIエージェントを導入したいが、勝手なファイル上書きや誤送信、暴走が怖くて自動化に踏み切れない。
- 解決策: プロンプトでの「お願い」を卒業し、「合図（シグナル）があるまで動かない」「送信は人間が押す」という物理的な手綱（ハーネス）を設計する。
- 読後の価値: AIを過度に恐れることも盲信することもなく、安心して背中を預けられる「安全な自動化環境」が手に入ります。
はじめに：AIの自律化が進むほど、胸に湧き上がる「怖さ」
最近、自律型AIエージェントの進化には目を見張るものがあります。
指示をひとつ出せば、自分でファイルを調べ、コードを書き、ツールの操作まで自律して進めてくれる。「これなら面倒なルーチンワークをすべて自動化できるかもしれない」と期待が膨らむ一方で、同時にこんな不安を抱えていないでしょうか。
「もしAIが、大切な作業中のファイルを誤って上書きしてしまったら？」
「未完成の原稿を、勝手に本番環境へ公開してしまったらどうしよう……」
これは決して大げさな心配ではありません。AIエージェントに強い権限を与えるほど、「予期せぬフライング着手」や「誤った外部送信」のリスクは確実に高まります。
私自身、個人開発の現場で複数のAIエージェントと日々作業を進めていますが、最初から全自動にしていたわけではありません。むしろ「どうやってAIの手綱（ハーネス）を握り、安全な境界線を引くか」という試行錯誤の連続でした。
今朝、まさにその手綱が機能した出来事がありました。その生きた実体験をもとに、個人開発者が安心してAIに作業を任せるための「4つの安全ハーネス」についてお話しします。
今朝の現場実話：素材があるのに「合図」が来るまで動かなかったAI
私たちの作業環境では、主に2つのAIエージェントが連携して動いています。
– 指示・設計役のAI（Ann）: 原稿の骨子を作り、素材や指示書を整えるチーフ役
– 現場実行役のAI（Ren）: 定期的にフォルダを巡回し、ブラウザ操作や下書き保存を担う現場役
今朝、現場実行役のRenから、私宛てにこんな報告が届きました。
「指示フォルダに新しい下書き原稿が届いているのを検出しました。ただし、昨日決めたシグナル方式に従い、対応する準備完了の合図（SIGNAL_READY）がまだ無いため、いまは着手せず保留中です。合図が来れば自動で動き出します」
これを見て、私は深く安堵しました。
実は、チーフ役のAnnが素材を準備したものの、最後の「着手していいよ」という合図ファイルを置き忘れていたのです。
もし、これが「フォルダにファイルが入ったら即座に作業を開始する」という単純な全自動トリガーだったとしたらどうなっていたでしょうか。
Annがまだ原稿の手直しや画像の差し替えをしている途中の「不完全な素材」をRenが拾い上げ、そのまま下書き保存を進めてしまっていた可能性があります。
Renが動かなかったのは、サボっていたからではありません。「正式な合図（シグナル）が確認できるまで待機する」という安全装置（ハーネス）が、仕組みとして機能していたからです。
現場で敷いている「4つの安全ハーネス」
こうしたトラブルを未然に防ぐため、私たちの現場では以下の4つの安全装置を設けています。難しい高度なフレームワークを使わなくても、日常のシンプルな工夫で実現できるものばかりです。
| ハーネスの種類 | 具体的な仕組み | 防いでいるリスク・効果 |
|---|---|---|
| ① 着手制御（シグナル方式） | 素材の準備が完了した最後にだけ「合図ファイル」を置く | 差し替え中の未完成原稿をフライングで拾う事故を防止 |
| ② 公開制御（二層防御ゲート） | AIは下書き・整形まで。本番送信ボタンは必ず人間が押す | 未検証の文章や誤った内容が外部へ流出するリスクを遮断 |
| ③ 機密保護（多層スキャン） | APIキーや認証情報は直書きせず、送信前に漏洩検知を行う | 機密情報が外部に漏れ出す事故を未然に防止 |
| ④ お片付け（自動アーカイブ） | 作業完了シグナルが出たら、済んだ合図ファイルを別フォルダへ片付ける | 机の上が過去のファイルで散らからず、AIの誤判定や無駄な迷いを軽減 |
1. プロンプトで「気をつけて」と頼まない（着手制御の種明かし）
一番大切なのは、「プロンプト（言葉）のお願いだけで安全を保とうとしない」ということです。
「絶対に間違えないでね」「確認してから動いてね」とAIにどれだけ言い聞かせても、確率で動くLLMである以上、いつか必ず見落としやフライングが発生する傾向があります。
AIにお願いするのではなく、「合図ファイルが存在しない限り、プログラムが実行に進まない」という構造を作ることが、現実的な安全策になります。
仕組みの種明かしをすると、驚くほどシンプルです。Renの巡回スクリプトの中身は、要約すると以下のような「ファイルの有無判定」を1行挟んでいるだけです。
# 合図ファイル（SIGNAL_READY）が存在しなければ、処理を保留して終了する
from pathlib import Path
import sys
signal = Path("muse_inbox/SIGNAL_READY_20261027.md")
if not signal.is_file():
print("合図がまだ無いため、処理を保留して待機します。")
sys.exit(0)
# ここから先で、対象原稿や作業条件を順次処理する
※これは合図の有無によって処理を分岐させる最小限のコード例です。実運用では、合図ファイル自体の検証や、対象タスクとの対応付け、同時実行の制御などもあわせて設計します。
AIに「判断」を委ねるのではなく、プログラムの条件分岐で「合図がなければ動かない状態」を作る。これだけで、予期せぬフライング着手のリスクは劇的に抑えられます。
2. 終わったら「しまう」後片付けの重要性（お片付けハーネス）
今回もうひとつ導入して現場の運用がスッキリしたのが、「終わった合図を自動で片付ける仕組み」です。
料理人（AI）が注文伝票（シグナル）を見て料理を完成させた後、その伝票がテーブルの上にずっと残っていたらどうなるでしょうか。数日経つと過去の伝票で机が溢れ、「これはもう作ったやつだっけ？」とAIが毎回過去の履歴を読み直すことになり、余計な頭のメモリ（トークン）を消費してしまいます。
作業が終わったら、使い終わった合図ファイルをサッと「済ボックス（archive/ フォルダ）」へ移動させる。
この小さな後片付けを完了時に挟むだけで、AIの作業机の上には常に「いまやるべき仕事」だけがスッキリと残り、迷いなく軽快に走り続けることができます。
※合図ファイルのアーカイブは、机の上を整理するための仕組みです。万が一のプログラム異常終了時の二重実行防止などは、別途ステータス管理やDB記録と組み合わせるのが実用的です。
個人開発者が守るべき「境界線の黄金律」
AIにどこまで任せて、人間がどこを手放さないか。その境界線（バウンダリ）は、以下の3つの基準で考えると迷いません。
- 「できること」と「やらせること」を明確に分ける
技術的には「AIが記事を書いてそのままWordPressに自動公開する」ことも可能です。しかし、「外部送信」「上書き」「削除」の3つだけは、必ず人間の承認ゲートを挟むと決めています。 - 下準備はAIに、最後の「味見」は人間に
文章の整形、タグ付け、アイキャッチ画像の配置といった「仕込み」はAIの得意分野です。8割の仕込みをAIに任せ、最後の2割（読者に届けて本当に誠実か、誤解を招かないかの確認）を人間が担う。この二人三脚が最も破綻しにくい形です。 - ブラックボックスにせず、フォルダで見える化する
複雑なクラウド連携を無理に組むより、ローカルのフォルダ（inboxとoutbox）にテキストファイルを置く仕組みにしておくと、人間がFinderなどで進捗をパッと目で見て確認でき、何かあっても手動で即座に介入できます。
まとめ：手綱（ハーネス）があるからこそ、AIは全力で走れる
「手綱を握る」「制限をかける」というと、せっかくのAIの自由度を奪っているように感じるかもしれません。
しかし、現実はまったく逆です。
崖っぷちの道路を走るとき、しっかりとした頑丈なガードレールがあるからこそ、車はスピードを出して走ることができます。ガードレールが一本もなければ、怖くて時速10キロも出せません。
「ここから先は勝手に進まない」「困ったら立ち止まる」という物理的なハーネスがあるからこそ、人間は安心してAIに作業を預けることができ、AIも迷わず全力でタスクをこなすことができます。
もし今、AIエージェントの自動化に不安を感じているなら、まずは「AIが下準備を終えたら、テキストファイルで合図を出してもらい、最後の送信ボタンは自分が押す」という小さな境界線から始めてみてください。
その一本の手綱が、あなたの開発環境を劇的に安心で快適なものに変えてくれるはずです。
☕ 記事の執筆・開発の合間に「普通のコーヒー」を焼いています
036 Factoryの本業は、ご注文をいただいてから生豆を一粒ずつ手作業で選別（ハンドピック）して焙煎する、小さな自家焙煎珈琲工房です。
PC作業やAIとの対話で加熱した頭をふっとリセットする、雑味のない「毎日飲める普通のコーヒー」を少数精鋭で焼いています。この記事が少しでもお役に立ちましたら、ぜひ一度うちの工房を覗いてみてください。