Kodokon kodokon.com

الأخلاقيات والتحيّز والسرّية

اعرف بالضبط ما ترسله، وما تساويه الشيفرة المولَّدة قانونيًّا، وكيف توجّه تحيّزات النموذج قراراتك التقنية.

10 دقيقة · 3 أسئلة

افتح هذا الدرس في Kodokon

كل موجّه هو نقل بيانات إلى طرف ثالث. قبل استخدام مساعِد في سياق مهني، يجب أن تحظى ثلاثة أسئلة بجواب موثَّق. الاحتفاظ: كم يبقي المزوّد على محادثاتك، ومن يمكنه الوصول إليها (الدعم، الأمن، أمر قضائي)؟ التدريب: هل تُستخدَم بياناتك لتدريب نماذج مستقبلية، وهل خيار عدم المشاركة مفعَّل في حسابك - فخطط المستهلكين وخطط المؤسّسات تختلف دائمًا تقريبًا في هذه النقطة؟ العقد: هل يسمح لك صاحب عملك أو عملاؤك بنقل هذه الشيفرة، علمًا أن بنود السرّية التي وقّعتها تنطبق أيضًا على موجّه؟ قد يبدو مقتطف الشيفرة غير مؤذٍ؛ لكنه، مقترنًا بأسماء نطاقات داخلية وبِنى جداول ورسائل خطأ بمسارات كاملة، يصف نظام معلوماتك.

الممارسة الجيّدة هي التقليل إلى الأدنى: إرسال ما هو ضروري تمامًا للاستدلال فحسب. إنها مهارة بحدّ ذاتها - بناء مثال مصغَّر قابل للاستنساخ بأسماء عامّة - ولها فضيلة تربوية غير متوقّعة: عزل مشكلة لوصفها بشكل مجرّد يُجبرك على فهمها. الموجّه التالي يحوّل قيد السرّية هذا إلى تمرين تشخيصي.

PROMPT
السياق: أعمل على شيفرة مملوكة لا يمكنني مشاركتها. سأصف مشكلتي بشكل مجرّد، بأسماء عامّة ومن دون لصق الشيفرة الحقيقية.

الوصف: [شيفرة زائفة (pseudo-code) للبنية ذات الصلة، رسالة خطأ بمسارات ومعرّفات مُقنَّعة، إصدارات المكتبات المعنية].

مهمّتك:
1. إن كان وصفي مبهمًا أكثر من اللازم للاستدلال عليه، أخبرني بالضبط بالمعلومة التي تنقصك ولماذا - سأقرّر إن كان بإمكاني تقديمها بصيغة مُجهَّلة.
2. استدلّ على وصفي فقط: لا تطلب مني أبدًا لصق الملف كاملًا.
3. اقترح فرضيات للسبب، مرتَّبة بحسب الاحتمال، ولكل واحدة اختبارًا دقيقًا يمكنني تشغيله محلّيًّا لتأكيده أو استبعاده.

الصيغة: جدول فرضية / احتمال / اختبار تحقّق. سأعود بنتائج الاختبار.
موجّه تشخيصي مُقلَّل - نقّح من دون كشف شيفرة مملوكة

الملفّ الثاني: ترخيص الشيفرة المولَّدة. القانون غير مستقرّ ويتباين بحسب الاختصاص القضائي، لكن ثلاث حقائق راسخة. الأولى: تُدرَّب النماذج على شيفرة تحت تراخيص متنوّعة، منها تراخيص الحقوق المتروكة (copyleft) مثل GPL، ويمكنها إعادة إنتاج مقتطفات قريبة جدًّا من مصدرها - خاصّة الخوارزميات الشهيرة أو المقتطفات المكرَّرة بكثرة. الثانية: في عدّة اختصاصات قضائية، يصعب حماية مُخرَج آليّ محض بلا إسهام إبداعي بشري بموجب حقوق النشر، ما يقوّض ادّعاءاتك على شيفرة قُبِلت كما هي. الثالثة: يقدّم بعض المزوّدين تعويضًا تعاقديًّا في حال دعوى انتهاك، ومرشّحات تحجب المُخرَجات القريبة جدًّا من المدوّنة - تحقّق من أن هذه الحمايات في خطّتك، لا في الكتيّب الدعائي فقط. عمليًّا: كلما كان المقتطف المولَّد أطول وأكثر تحديدًا وأقلّ تحريرًا، ارتفع الخطر القانوني.

الملفّ الثالث: التحيّز. يعيد النموذج إنتاج الانتظامات الإحصائية لمدوّنته، وثلاثة تحيّزات تؤثّر مباشرةً في قراراتك التقنية. تحيّز الشيوع: الحلول المفرطة التمثيل في البيانات (أطر العمل المهيمنة، الأنماط التي كانت رائجة قبل عامين) تُوصى افتراضيًّا، حتى حين يستدعي سياقك شيئًا آخر - فالمدوّنة تتأخّر دائمًا خطوة عن أحدث ما توصّل إليه المجال. تحيّز التملّق: النماذج مُحسَّنة لإرضاء المستخدم وتميل إلى المصادقة على مقدّمتك؛ اسأل "لماذا نهجي في الخدمات المصغّرة هو الصحيح؟" وستحصل على تأكيدات، لا على رأي مضادّ. تحيّز السلطة المقلوب: فصاحة النبرة تولّد انطباعًا باليقين لا علاقة له بالموثوقية. والإجراء المضادّ إجرائيّ: افرض التناقض.

PROMPT
أوصيتني للتوّ بـ [الحلّ أو التقنية]. قبل أن أقرّر، بدّل موقفك: أنت الآن مهندس ذو خبرة مهمّته الحِجاج ضدّ هذه التوصية.

1. أعطِ أفضل 3 حجج ضدّ إجابتك أنت، كل واحدة موضَّحة بسيناريو ملموس تفشل فيه.
2. اذكر بديلًا جادًّا واحدًا على الأقل لم تذكره، واشرح بصدق لماذا غاب عن إجابتك الأولى.
3. قدّر مقدار ما تدين به توصيتك الأولى لشيوع هذا الحلّ في بيانات تدريبك، بدلًا من سياقي المحدّد الذي سأذكّرك به: [سياقك: حجم الفريق، القيود، البنية القائمة].

الصيغة: عمودان مع / ضدّ، ثم توصيتك المنقّحة في جملة واحدة، مع مستوى ثقتك وما قد يغيّرها.
موجّه محامي الشيطان - استخرجه قبل أيّ قرار تقني مُعان

اختبار المعرفة

تأكّد من أنك تذكّرت النقاط الأساسية في هذا الدرس.

  1. قبل أن تلصق شيفرة شركتك في مساعِد ذكاء اصطناعي، ما الذي ينبغي أن تتحقّق منه أولًا؟
    • أن المقتطف لا يتجاوز الحدّ الأقصى لحجم السياق
    • سياسة الاحتفاظ والتدريب لدى المزوّد، وكذلك التزاماتك التعاقدية بالسرّية
    • أن لغة الشيفرة مدعومة على نحو سليم من النموذج
  2. لماذا تثير الشيفرة المولَّدة من النموذج مسألة ترخيص؟
    • لأن كل شيفرة مولَّدة تُوضَع تلقائيًّا تحت GPL
    • لأن النموذج يمكنه إعادة إنتاج مقتطفات قريبة جدًّا من شيفرة مرخّصة، قد تنطبق حينها التزاماتها على مشروعك
    • لأن الشيفرة المولَّدة تعود دائمًا لمزوّد النموذج
  3. ما تحيّز الشيوع لدى النموذج؟
    • الميل إلى تفضيل إجابات المستخدمين الأكثر نشاطًا
    • الميل إلى التوصية بحلول مفرطة التمثيل في بيانات التدريب بدلًا من الأنسب لسياقك
    • الميل إلى تملّق المستخدم بالمصادقة على مقدّماته