เรียนรู้ที่จะสังเกตอาการหลอน ความรู้ที่ล้าสมัย และความมั่นใจเกินเหตุของผู้ช่วย
เปิดบทเรียนนี้ใน Kodokonสำหรับการเรียนเขียนโค้ด AI เชิงสร้างสรรค์เป็นพันธมิตรที่ยอดเยี่ยม มันเก่งในเรื่อง: อธิบาย แนวคิดในระดับที่ตรงกับคุณพอดี เรียบเรียงใหม่ ด้วยวิธีที่ต่างออกไปเมื่อคุณไม่เข้าใจ ยกตัวอย่างเพิ่มเติม เมื่อต้องการ สร้างแบบฝึกหัด ที่ออกแบบมาเฉพาะสำหรับคุณ และ ตรวจงานของคุณ เพื่อชี้ข้อผิดพลาด ไม่มีตำราเล่มใดปรับให้เข้ากับคุณได้แบบนี้ และไม่มีครูคนใดพร้อมให้บริการตลอด 24 ชั่วโมงทุกวัน แต่พันธมิตรรายนี้มีข้อบกพร่องสามอย่างที่คุณจำเป็นต้องรู้ก่อนที่จะไว้ใจมัน
ข้อบกพร่องแรก: อาการหลอน (hallucinations) อาการหลอนคือคำตอบที่ผิด แต่ถูกเรียบเรียงราวกับว่ามันเป็นเรื่องที่ชัดเจนอยู่แล้ว จำบทเรียนก่อนหน้าไว้: โมเดลสร้างข้อความที่ *น่าจะเป็นไปได้* ไม่ใช่ข้อความที่ *ผ่านการตรวจสอบ* ตัวอย่างจริง: การกุฟังก์ชัน JavaScript ที่ไม่มีอยู่จริง (เช่น array.shuffle() ที่แต่งขึ้นมา) การอ้างหนังสือที่ไม่เคยถูกเขียนขึ้น หรือการยกคำพูดไปให้ผิดคน ข้อความนั้นลื่นไหล มั่นใจ เรียบเรียงมาอย่างดี… แต่ผิด
ข้อบกพร่องที่สอง: ความรู้ที่ล้าสมัย โมเดลจะหยุดนิ่งอยู่ ณ ช่วงเวลาที่การฝึกของมันสิ้นสุดลง วันที่นั้นเรียกว่า knowledge cutoff (วันตัดยอดความรู้) อะไรก็ตามที่เกิดขึ้นหลังจากนั้น - เวอร์ชันใหม่ของภาษา ไลบรารีใหม่ เหตุการณ์ปัจจุบัน - เป็นสิ่งที่มันไม่รู้จัก เว้นแต่ผู้ช่วยจะมีเครื่องมือค้นหาบนเว็บ ในทางปฏิบัติ: ถ้าคุณถามว่า "Python เวอร์ชันล่าสุดคืออะไร?" คำตอบอาจล้าสมัยได้โดยไม่มีอะไรบ่งบอก
ข้อบกพร่องที่สาม: ความมั่นใจเกินเหตุ มนุษย์ที่มีความสามารถจะพูดว่า "ฉันไม่รู้" หรือ "ฉันไม่แน่ใจ" แต่ LLM โดยค่าเริ่มต้นจะสร้างคำตอบแบบยืนยัน เพราะข้อความที่ลังเลนั้นหาได้ยากในการฝึกของมัน ผลก็คือ ยิ่งคุณเป็นผู้เริ่มต้นมากเท่าไร คุณยิ่งเสี่ยงที่จะเอาการเดามาเป็นข้อเท็จจริง วิธีแก้: ขอให้โมเดลแยกแยะให้ชัดเจนว่าอะไรแน่นอนและอะไรไม่แน่นอน
คุณคือผู้ช่วยที่เข้มงวดซึ่งยอมรับความไม่แน่ใจดีกว่าจะกุเรื่องขึ้นมา
ตอบคำถามของฉันด้านล่างโดยปฏิบัติตามกฎเหล่านี้อย่างเคร่งครัด:
1. แยกแยะ ข้อเท็จจริงที่ยืนยันได้ ออกจาก ข้อสันนิษฐาน ให้ชัดเจน
2. หากคุณไม่แน่ใจในประเด็นใด ให้เขียน "ต้องตรวจสอบ:" ไว้ข้างหน้าประเด็นนั้น
3. ระบุวันตัดยอดความรู้ (knowledge cutoff) ของคุณ และเตือนว่าอะไรอาจเปลี่ยนไปตั้งแต่นั้น
4. จบด้วยรายชื่อแหล่งข้อมูลอย่างเป็นทางการที่ฉันสามารถไปตรวจสอบได้ด้วยตัวเอง
คำถามของฉัน: [เขียนคำถามของคุณตรงนี้]นิสัยที่ดีที่ควรเริ่มปฏิบัติตั้งแต่วันนี้: ปฏิบัติต่อ AI เสมือนเป็น จุดเริ่มต้น ไม่ใช่ แหล่งข้อมูลสุดท้าย สำหรับข้อมูลสำคัญใด ๆ (ไวยากรณ์ เวอร์ชัน ข้อเท็จจริง) ให้ตรวจสอบเทียบกับเอกสารทางการหรือแหล่งอ้างอิง ความพยายามในการตรวจสอบเล็ก ๆ นี้ไม่ใช่การเสียเวลา: การค้นหาในเอกสารคือทักษะการเขียนโปรแกรมอย่างหนึ่งที่คุณฝึกฝนไปตลอดทาง
คุณเพิ่งบอกฉันดังนี้: [วางคำกล่าวของ AI ตรงนี้]
ตอนนี้ช่วยรับบทเป็นฝ่ายค้าน (devil's advocate): ให้เหตุผลกับฉันว่าคำกล่าวนี้อาจผิด ไม่ครบถ้วน หรือล้าสมัยได้อย่างไร จากนั้นบอกฉันให้ชัดเจนว่าจะตรวจสอบด้วยตัวเองได้อย่างไร (ควรดูเอกสารทางการฉบับใด และควรมองหาอะไรในนั้น)