تعلّم كيف تكتشف الهلوسات، والمعرفة المتقادمة، والثقة المفرطة لدى المساعدين.
افتح هذا الدرس في Kodokonلتعلّم البرمجة، الذكاء الاصطناعي التوليدي حليف هائل. إنه بارع في: شرح مفهوم على مستواك بالضبط، وإعادة الصياغة بطريقة مختلفة حين لا تفهم، وإعطاء أمثلة إضافية عند الطلب، وإنشاء تمارين مصمّمة خصيصًا لك، ومراجعة عملك للإشارة إلى أخطائك. لا يوجد كتاب مدرسي يتكيّف معك هكذا، ولا يوجد معلّم متاح على مدار الساعة طوال أيام الأسبوع. لكن لهذا الحليف ثلاثة عيوب يجب أن تعرفها قبل أن تثق به.
العيب الأول: الهلوسات. الهلوسة هي إجابة خاطئة لكنها مصاغة وكأنها بديهية. تذكّر الدرس السابق: النموذج ينتج نصًا *معقولًا*، لا نصًا *مُتحقَّقًا منه*. أمثلة حقيقية: اختراع دالة JavaScript غير موجودة (مثل array.shuffle() المُختلقة)، أو الاستشهاد بكتاب لم يُكتب قط، أو نسب اقتباس إلى الشخص الخطأ. النص سلس، وواثق، ومبني جيدًا… وخاطئ.
العيب الثاني: المعرفة المتقادمة. النموذج مجمّد عند اللحظة التي يتوقّف فيها تدريبه؛ ويُسمّى ذلك التاريخ حدّ المعرفة (knowledge cutoff). كل ما ظهر بعد ذلك - إصدار جديد من لغة، أو مكتبة جديدة، أو أحداث جارية - مجهول بالنسبة إليه، إلا إذا كان لدى المساعد أداة بحث على الويب. عمليًا: إذا سألت "ما أحدث إصدار من Python؟"، فقد تكون الإجابة متقادمة دون أي إشارة إلى ذلك.
العيب الثالث: الثقة المفرطة. الإنسان الكفؤ يقول "لا أعرف" أو "لست متأكدًا". أما نموذج اللغة الكبير، فينتج افتراضيًا إجابة جازمة، لأن النصوص المترددة نادرة في تدريبه. والنتيجة: كلما كنت أكثر ابتداءً، ازداد خطر أخذك للتخمين على أنه حقيقة. العلاج: اطلب من النموذج صراحةً أن يميّز ما هو مؤكّد عمّا ليس كذلك.
أنت مساعد دقيق يفضّل الاعتراف بعدم اليقين على اختلاق الأشياء.
أجب عن سؤالي أدناه مع الالتزام الصارم بهذه القواعد:
1. ميّز بوضوح بين الحقائق الثابتة والافتراضات.
2. إذا كنت غير متأكد من نقطة ما، اكتب "للتحقّق:" أمامها.
3. اذكر تاريخ حدّ معرفتك ونبّه إلى ما قد يكون تغيّر منذ ذلك الحين.
4. اختم بقائمة من المصادر الرسمية التي يمكنني أن أتحقّق فيها بنفسي.
سؤالي: [اكتب سؤالك هنا]العادة الصحيحة التي يجب تبنّيها ابتداءً من اليوم: تعامل مع الذكاء الاصطناعي بوصفه نقطة انطلاق، لا مصدرًا نهائيًا أبدًا. بالنسبة لأي معلومة مهمة (بنية نحوية، أو إصدار، أو حقيقة)، تحقّق منها بمقارنتها بالوثائق الرسمية أو مصدر مرجعي. هذا الجهد الصغير في التحقّق ليس مضيعة للوقت: البحث في الوثائق مهارة برمجية تتدرّب عليها في الطريق.
قلت لي للتو ما يلي: [الصق جملة الذكاء الاصطناعي هنا].
الآن قم بدور محامي الشيطان: أعطني الأسباب التي قد تجعل هذه الجملة خاطئة أو ناقصة أو متقادمة، ثم أخبرني بالضبط كيف أتحقّق منها بنفسي (أيّ وثائق رسمية أستشير، وماذا أبحث فيها).