กระบวนการคิดของ Claude: การเดินทางของมานุษยวิทยาสู่ความลึกลับของ AI

โมเดลภาษาขนาดใหญ่ (LLMS) เช่น Claude ได้ปฏิวัติเทคโนโลยีพลังแชทบอทช่วยในการเขียนเรียงความและแม้แต่การสร้างบทกวี อย่างไรก็ตามการทำงานภายในของพวกเขายังคงลึกลับส่วนใหญ่มักจะอธิบายว่าเป็น "กล่องดำ" เพราะในขณะที่เราสามารถเห็นผลลัพธ์ของพวกเขากระบวนการที่อยู่เบื้องหลังพวกเขาคือทึบแสง การขาดความโปร่งใสนี้ก่อให้เกิดความท้าทายที่สำคัญโดยเฉพาะอย่างยิ่งในสาขาที่สำคัญเช่นยาและกฎหมายที่ข้อผิดพลาดหรืออคติอาจมีผลกระทบร้ายแรง

การทำความเข้าใจกลไกของ LLM เป็นสิ่งสำคัญสำหรับการสร้างความไว้วางใจ โดยไม่ทราบว่าทำไมแบบจำลองจึงให้การตอบสนองที่เฉพาะเจาะจงมันเป็นเรื่องยากที่จะพึ่งพาการตัดสินใจโดยเฉพาะอย่างยิ่งในการใช้งานที่ละเอียดอ่อน ความสามารถในการตีความยังช่วยในการระบุและแก้ไขอคติหรือข้อผิดพลาดเพื่อให้มั่นใจว่าแบบจำลองนั้นปลอดภัยและมีจริยธรรม ตัวอย่างเช่นหากแบบจำลองแสดงอคติต่อมุมมองบางอย่างการทำความเข้าใจเหตุผลพื้นฐานสามารถช่วยให้นักพัฒนาได้แก้ไขปัญหาเหล่านี้ ความต้องการเชื้อเพลิงที่ชัดเจนนี้จะทำการวิจัยอย่างต่อเนื่องเพื่อทำให้แบบจำลองเหล่านี้โปร่งใสมากขึ้น

มานุษยวิทยาผู้สร้าง Claude อยู่ในระดับแนวหน้าของความพยายามที่จะ demystify llms ความก้าวหน้าล่าสุดของพวกเขาในการทำความเข้าใจว่าแบบจำลองเหล่านี้ประมวลผลข้อมูลเป็นจุดสนใจของบทความนี้อย่างไร

การทำแผนที่ความคิดของ Claude

ในช่วงกลางปี ​​2567 มานุษยวิทยาประสบความสำเร็จอย่างมากโดยการสร้าง "แผนที่" พื้นฐานของการประมวลผลข้อมูลของ Claude การใช้เทคนิคที่เรียกว่าการเรียนรู้พจนานุกรมพวกเขาระบุรูปแบบนับล้านภายในเครือข่ายประสาทของ Claude แต่ละรูปแบบหรือ "คุณสมบัติ" สอดคล้องกับแนวคิดเฉพาะเช่นการรับรู้เมืองระบุบุคคลที่มีชื่อเสียงหรือตรวจจับข้อผิดพลาดการเข้ารหัส แนวคิดที่ซับซ้อนมากขึ้นเช่นอคติทางเพศหรือความลับก็แสดงด้วยคุณสมบัติเหล่านี้

นักวิจัยพบว่าแนวคิดเหล่านี้ไม่ได้ จำกัด อยู่ที่เซลล์ประสาทเดี่ยว แต่มีการกระจายในหลาย ๆ เซลล์โดยแต่ละเซลล์ประสาทมีส่วนร่วมกับความคิดที่หลากหลาย การทับซ้อนนี้ครั้งแรกทำให้มันท้าทายที่จะถอดรหัสแนวคิดเหล่านี้ อย่างไรก็ตามด้วยการระบุรูปแบบที่เกิดขึ้นเหล่านี้ทีมของมานุษยวิทยาเริ่มคลี่คลายว่า Claude จัดระเบียบความคิดของมันอย่างไร

ติดตามเหตุผลของ Claude

ขั้นตอนต่อไปของมานุษยวิทยาคือการเข้าใจว่า Claude ใช้รูปแบบความคิดเหล่านี้เพื่อตัดสินใจอย่างไร พวกเขาพัฒนาเครื่องมือที่เรียกว่ากราฟที่มาซึ่งทำหน้าที่เป็นคู่มือทีละขั้นตอนสำหรับกระบวนการให้เหตุผลของ Claude แต่ละโหนดบนกราฟแสดงถึงความคิดที่เปิดใช้งานในใจของ Claude โดยลูกศรแสดงให้เห็นว่าแนวคิดหนึ่งนำไปสู่อีก เครื่องมือนี้ช่วยให้นักวิจัยสามารถติดตามว่า Claude เปลี่ยนคำถามเป็นคำตอบได้อย่างไร

ตัวอย่างเช่นเมื่อถูกถามว่า "เมืองหลวงของรัฐกับดัลลัสคืออะไร" คลอดด์ต้องจำไว้ก่อนว่าดัลลัสอยู่ในเท็กซัสจากนั้นจำได้ว่าออสตินเป็นเมืองหลวงของเท็กซัส กราฟการระบุแหล่งที่มาแสดงให้เห็นอย่างชัดเจนลำดับนี้ - ส่วนหนึ่งของ Claude ระบุว่า "Texas" ซึ่งเรียกส่วนอื่นเพื่อเลือก "Austin" ทีมยืนยันกระบวนการนี้โดยการปรับเปลี่ยนโหนด "เท็กซัส" ซึ่งเปลี่ยนแปลงการตอบสนองแสดงให้เห็นว่าคำตอบของ Claude เป็นผลมาจากกระบวนการโดยเจตนาไม่ใช่แค่การคาดเดา

ทำไมเรื่องนี้: การเปรียบเทียบจากวิทยาศาสตร์ชีวภาพ

เพื่อชื่นชมความสำคัญของการพัฒนาเหล่านี้ให้พิจารณาความก้าวหน้าที่สำคัญในวิทยาศาสตร์ชีวภาพ เช่นเดียวกับกล้องจุลทรรศน์ที่เปิดเผยเซลล์ - หน่วยพื้นฐานของชีวิต - เครื่องมือการตีความความสามารถในการตีความเหล่านี้กำลังเปิดตัวหน่วยความคิดพื้นฐานภายในแบบจำลอง AI ในทำนองเดียวกันการทำแผนที่วงจรประสาทหรือการจัดลำดับจีโนมได้นำไปสู่การพัฒนาทางการแพทย์ การทำความเข้าใจผลงานภายในของ Claude อาจนำไปสู่ ​​AI ที่เชื่อถือได้และควบคุมได้มากขึ้น เครื่องมือการตีความเหล่านี้มีความสำคัญต่อการได้รับข้อมูลเชิงลึกในกระบวนการคิดของโมเดล AI

ความท้าทาย

แม้จะมีความก้าวหน้าเหล่านี้ แต่ความเข้าใจอย่างเต็มที่ LLM เช่น Claude ยังคงเป็นเป้าหมายที่ห่างไกล ปัจจุบันกราฟที่มาสามารถอธิบายได้เพียงหนึ่งในสี่ของการตัดสินใจของ Claude ในขณะที่แผนที่คุณสมบัตินั้นน่าประทับใจ แต่ก็มีเพียงเศษเสี้ยวของสิ่งที่เกิดขึ้นภายในเครือข่ายประสาทของ Claude ด้วยพารามิเตอร์หลายพันล้านพารามิเตอร์ LLMs ทำการคำนวณนับไม่ถ้วนสำหรับแต่ละงานทำให้คล้ายกับการติดตามทุกเซลล์ประสาทที่ยิงในสมองมนุษย์ในระหว่างความคิดเดียว

ความท้าทายอีกประการหนึ่งคือ "ภาพหลอน" ซึ่งโมเดล AI ให้คำตอบที่น่าเชื่อถือ แต่ไม่ถูกต้อง สิ่งนี้เกิดขึ้นเพราะโมเดลพึ่งพารูปแบบจากข้อมูลการฝึกอบรมของพวกเขามากกว่าความเข้าใจที่แท้จริงของโลก การทำความเข้าใจว่าทำไมแบบจำลองสร้างข้อมูลเท็จยังคงเป็นปัญหาที่ซับซ้อนโดยเน้นช่องว่างในความเข้าใจของเราเกี่ยวกับการทำงานภายในของพวกเขา

อคติก็เป็นอุปสรรค์ที่สำคัญเช่นกัน โมเดล AI เรียนรู้จากชุดข้อมูลอินเทอร์เน็ตมากมายซึ่งมีอคติของมนุษย์โดยเนื้อแท้ - สเตอรีไทป์อคติและข้อบกพร่องทางสังคมอื่น ๆ หาก Claude ดูดซับอคติเหล่านี้พวกเขาอาจปรากฏในการตอบสนองของมัน การคลี่คลายต้นกำเนิดของอคติเหล่านี้และผลกระทบต่อการใช้เหตุผลของโมเดลเป็นความท้าทายที่หลากหลายซึ่งต้องใช้ทั้งโซลูชันทางเทคนิคและการพิจารณาทางจริยธรรม

บรรทัดล่าง

ความพยายามของมานุษยวิทยาในการทำให้ LLMs เช่น Claude ตีความได้มากขึ้นเครื่องหมายความก้าวหน้าที่สำคัญในความโปร่งใสของ AI โดยการให้ความกระจ่างเกี่ยวกับวิธีการที่ Claude ประมวลผลข้อมูลและทำการตัดสินใจพวกเขากำลังปูทางไปสู่ความรับผิดชอบของ AI มากขึ้น ความคืบหน้านี้ช่วยอำนวยความสะดวกในการบูรณาการอย่างปลอดภัยของ LLMs เข้ากับภาคส่วนสำคัญเช่นการดูแลสุขภาพและกฎหมายที่ความไว้วางใจและจริยธรรมเป็นสิ่งสำคัญยิ่ง

ในขณะที่วิธีการตีความยังคงพัฒนาอย่างต่อเนื่องอุตสาหกรรมก่อนหน้านี้ลังเลที่จะนำ AI มาใช้ในขณะนี้อาจพิจารณาใหม่ แบบจำลองโปร่งใสเช่น Claude เสนอเส้นทางที่ชัดเจนไปข้างหน้า - เครื่องจักรที่ไม่เพียง แต่เลียนแบบความฉลาดของมนุษย์เท่านั้น แต่ยังอธิบายกระบวนการให้เหตุผลด้วย