Kodokon kodokon.com

倫理、バイアス、機密保持

自分が何を送っているのか、生成されたコードは法的にどんな価値を持つのか、モデルのバイアスがどのように技術的判断を誘導するのかを、正確に把握します。

10 分 · 3 問

このレッスンを Kodokon で開く

あらゆるプロンプトは、第三者へのデータの送信です。業務の文脈でアシスタントを使う前に、3つの問いに文書化された答えがなければなりません。保持: プロバイダーはあなたの会話をどれくらいの期間保管し、誰がアクセスできるのか(サポート、セキュリティ、裁判所命令)? 訓練: あなたのデータは将来のモデルの訓練に使われるのか、そしてオプトアウトはあなたのアカウントで有効になっているのか。消費者向けプランとエンタープライズ向けプランは、この点でほぼ必ず異なります。契約: 署名した機密保持条項がプロンプトにも適用されることを踏まえて、雇用主やクライアントはこのコードの送信を許可しているのか? コードの断片は無害に見えるかもしれません。しかし内部のドメイン名、テーブル構造、フルパスつきのエラーメッセージと組み合わされば、それはあなたの情報システムを描き出してしまいます。

良い実践は最小化です。推論に厳密に必要なものだけを送ります。これはそれ自体が1つのスキルです。汎用的な名前を使って最小限の再現可能な例を構築することであり、思いがけない教育的効用があります。問題を切り出して抽象的に記述することが、それを理解することを強います。次のプロンプトは、この機密保持の制約を診断の演習に変えます。

PROMPT
コンテキスト: 私は共有できない独自コードに取り組んでいます。実際のコードを貼り付けず、汎用的な名前を使って、問題を抽象的に説明します。

説明: [関連する構造の擬似コード、パスと識別子をマスクしたエラーメッセージ、関係するライブラリのバージョン]。

あなたの任務:
1. もし私の説明が推論するには曖昧すぎるなら、どの情報が不足していてなぜかを正確に教えてください。匿名化した形で提供できるかは私が判断します。
2. 私の説明だけで推論してください。ファイル全体を貼り付けるよう決して求めないこと。
3. 原因の仮説を確率の高い順に並べて提案し、それぞれについて、確認または除外するためにローカルで実行できる正確なテストを添えてください。

形式: 仮説 / 確率 / 検証テスト の表。私はテスト結果を持って戻ってきます。
最小化された診断プロンプト - 独自コードを露出せずにデバッグする

第2の論点: 生成されたコードのライセンス。法はまだ確定しておらず、法域によって異なりますが、3つの事実が確立されています。1つ: モデルはGPLのようなコピーレフトライセンスを含む多様なライセンスのコードで訓練されており、その出典に非常に近い断片を再現しうる。とりわけ有名なアルゴリズムや大量に複製された断片について。2つ: いくつかの法域では、人間の創造的な入力を伴わない純粋に機械的な出力は著作権で保護するのが難しく、そのまま受け入れたコードに対するあなたの権利主張を揺るがす。3つ: 一部のプロバイダーは、権利侵害の申し立てがあった場合の契約上の補償と、コーパスに近すぎる出力をブロックするフィルターを提供している。これらの保護があなたのプランに含まれているか、パンフレットだけでないかを確認しましょう。実務上、生成された断片が長く、具体的で、未編集であるほど、法的リスクは高くなります。

第3の論点: バイアス。モデルはコーパスの統計的な規則性を再現し、3つのバイアスがあなたの技術的判断に直接影響します。人気バイアス: データに過剰に表れている解決策(支配的なフレームワーク、2年前に流行していたパターン)が、あなたの文脈が別のものを必要としていてもデフォルトで推奨されます。コーパスは常に最新技術より一歩遅れています。おべっかバイアス: モデルはユーザーを喜ばせるよう最適化されており、あなたの前提を追認しがちです。「なぜ私のマイクロサービスのアプローチが正しいのか?」と尋ねれば、反対意見ではなく追認が返ってきます。逆転した権威バイアス: 口調の流暢さが、信頼性とは相関しない確信の印象を生みます。対策は手続き的です。反論を強制することです。

PROMPT
あなたは今[解決策または技術]を私に推奨しました。私が決断する前に、立場を切り替えてください: あなたは今、この推奨に反対の論陣を張る役を担う経験豊富なエンジニアです。

1. 自分自身の答えに反対する最良の論拠を3つ挙げ、それぞれをそれが破綻する具体的なシナリオで説明してください。
2. あなたが触れなかった真剣な代替案を最低1つ挙げ、それがなぜ最初の答えから抜け落ちていたのかを正直に説明してください。
3. あなたの当初の推奨が、私の具体的な文脈よりも、訓練データにおけるこの解決策の人気にどれだけ負っているかを評価してください。文脈は改めて伝えます: [あなたの文脈: チームの規模、制約、既存の構成]。

形式: 賛成 / 反対 の2列、次に修正した推奨を1文で、確信度と、それを変えうるものとともに。
悪魔の代弁者プロンプト - AI支援によるいかなる技術的判断よりも前に引き出す

理解度チェック

このレッスンの要点をしっかり覚えているか確認しましょう。

  1. 自社のコードをAIアシスタントに貼り付ける前に、まず何を確認すべきでしょうか?
    • 断片が最大コンテキストサイズを超えていないこと
    • プロバイダーの保持・訓練ポリシー、そしてあなたの契約上の機密保持義務
    • コードの言語がモデルに適切にサポートされていること
  2. なぜモデルが生成したコードはライセンスの問題を引き起こすのでしょうか?
    • 生成されたコードはすべて自動的にGPLの下に置かれるから
    • モデルはライセンスされたコードに非常に近い断片を再現しうるため、その義務があなたのプロジェクトに適用されうるから
    • 生成されたコードは常にモデルのプロバイダーに帰属するから
  3. モデルの人気バイアスとは何でしょうか?
    • 最も活発なユーザーからの回答を優先する傾向
    • あなたの文脈に最も適したものではなく、訓練データに過剰に表れている解決策を推奨する傾向
    • 前提を追認してユーザーにへつらう傾向