บทเรียนจาก Air Canada: เมื่อแชทบอท AI แต่งเรื่องจนบริษัทโดนฟ้อง คุณจะป้องกันอย่างไร

ในเดือนพฤศจิกายน 2022 แจ็ค มอฟแฟตต์ สูญเสียคุณยายและต้องรีบจองตั๋วเครื่องบินด่วน เขาเข้าไปที่เว็บไซต์ของสายการบิน Air Canada และถามแชทบอทบริการลูกค้าเกี่ยวกับส่วนลดสำหรับผู้ที่สูญเสียสมาชิกในครอบครัว

แชทบอทตัวนั้นตอบอย่างมั่นใจว่า เขาสามารถซื้อตั๋วราคาเต็มไปก่อน แล้วค่อยมายื่นเรื่องขอคืนเงินส่วนต่างได้ภายใน 90 วัน แจ็คจึงตัดสินใจรูดบัตรเครดิตซื้อตั๋วทันที

แต่ปัญหาคือข้อมูลนั้นไม่เป็นความจริง นโยบายที่แท้จริงของ Air Canada ระบุว่าผู้โดยสารต้องขออนุมัติส่วนลดก่อนการเดินทางเท่านั้น เมื่อแจ็คไปทวงเงินคืน สายการบินจึงปฏิเสธและบอกว่าแชทบอทให้ข้อมูลผิด

เรื่องนี้จบลงที่ศาล และกลายเป็นคดีประวัติศาสตร์ที่เจ้าของธุรกิจทุกคนต้องอ่าน

## แชทบอทคือตัวแทนบริษัท ไม่ใช่บุคคลที่สาม

เมื่อถูกฟ้อง Air Canada พยายามต่อสู้ในศาลด้วยข้ออ้างที่ฟังดูแปลกประหลาด ทนายของสายการบินแย้งว่า แชทบอทเป็นเครื่องมือที่มีความรับผิดชอบในตัวเอง บริษัทไม่ควรต้องมารับผิดชอบต่อข้อมูลที่ AI สร้างขึ้นมา

ผู้พิพากษาปฏิเสธข้ออ้างนี้ทันที ศาลตัดสินว่าแชทบอทเป็นส่วนหนึ่งของเว็บไซต์ Air Canada อย่างแยกไม่ออก เมื่อบริษัทเลือกจะนำเทคโนโลยีนี้มาโต้ตอบกับลูกค้า บริษัทก็ต้องรับผิดชอบต่อทุกตัวอักษรที่ระบบพิมพ์ออกมา

**คำตัดสินนี้สร้างบรรทัดฐานใหม่ที่น่ากลัว หากแชทบอท AI ของคุณสัญญาว่าจะให้เงินคืน มอบส่วนลด หรือการันตีผลลัพธ์ใดๆ ในทางกฎหมายถือว่าบริษัทของคุณเป็นผู้สัญญาและต้องรับผิดชอบค่าใช้จ่ายนั้น**

ลองจินตนาการว่าคุณเป็นเจ้าของคลินิกความงามในกรุงเทพฯ คุณติดตั้งระบบแชทบอท AI สำเร็จรูปราคาถูกไว้บนเว็บไซต์ วันหนึ่งมีคนไข้ทักมาถามว่าประกันสุขภาพครอบคลุมค่าเลเซอร์รักษาสิวหรือไม่ แชทบอทตอบกลับไปว่า "ครอบคลุมแน่นอนครับ"

เมื่อคนไข้เข้ารับการรักษาและพบว่าประกันไม่จ่าย คลินิกของคุณจะต้องเป็นคนจ่ายบิลนั้นเองทั้งหมด นี่ไม่ใช่เรื่องสมมติ แต่เป็นความเสี่ยงทางกฎหมายที่เกิดขึ้นจริงในยุคที่เราปล่อยให้ AI ทำงานโดยไม่มีคนควบคุม

## ทำไมแชทบอทสำเร็จรูปถึงเป็นระเบิดเวลา

ปัญหาหลักของระบบ AI พื้นฐานอย่าง ChatGPT หรือแชทบอทสำเร็จรูปทั่วไป คือพวกมันถูกออกแบบมาให้เป็นผู้ช่วยที่พยายามจะหาคำตอบมาให้คุณเสมอ พวกมันไม่ชอบพูดคำว่า "ฉันไม่รู้" 

พฤติกรรมนี้ทำให้เกิด อาการหลอน (การที่ AI แต่งข้อมูลขึ้นมาเองให้ดูน่าเชื่อถือ) เพราะระบบ AI ทำงานโดยการคาดเดาคำศัพท์คำต่อไปที่น่าจะถูกต้องตามสถิติ มันไม่ได้เข้าไปค้นหาข้อมูลในฐานข้อมูลที่แม่นยำเหมือน Google

แชทบอทที่ไม่ได้ถูกปรับแต่งอย่างถูกต้อง ไม่รู้ถึงกฎระเบียบภายในที่ซับซ้อนของบริษัทคุณ มันแค่อ่านข้อมูลทั่วไปบนอินเทอร์เน็ตและพยายามเรียบเรียงคำตอบที่ฟังดูดีที่สุดเพื่อเอาใจลูกค้า

นี่คือเหตุผลที่การเอาเทคโนโลยี AI ทั่วไปมาสวมทับระบบบริการลูกค้า (Customer Service) โดยไม่สร้างกรอบป้องกัน ถือเป็นการดำเนินธุรกิจที่ประมาทอย่างยิ่ง

## วิธีที่ 1: ตีกรอบข้อมูลด้วยระบบอ้างอิงเอกสาร (Retrieval Grounding)

วิธีแก้ปัญหาที่ตรงจุดที่สุดคือการหยุดให้ AI ค้นหาคำตอบจากความจำของตัวเอง คุณต้องเปลี่ยนให้แชทบอททำงานเหมือนพนักงานฝึกหัดที่ได้รับอนุญาตให้อ่านเฉพาะคู่มือของบริษัทเท่านั้น

ในทางเทคนิค เราเรียกกระบวนการนี้ว่า การตีกรอบข้อมูล (การป้อนฐานข้อมูลเฉพาะให้ AI และบังคับให้อ่านจากตรงนั้น) คุณจะต้องอัปโหลดไฟล์ PDF นโยบายการคืนเงิน เงื่อนไขการรับประกัน และคู่มือบริการทั้งหมดเข้าไปในระบบ

จากนั้นคุณต้องตั้งคำสั่งขั้นเด็ดขาดว่า "ถ้าคำตอบของลูกค้าไม่มีเขียนอยู่ในเอกสารเหล่านี้ ห้ามตอบเด็ดขาด" พร้อมกับบังคับให้ AI แนบลิงก์อ้างอิงทุกครั้งที่ตอบคำถามลูกค้า เพื่อให้ลูกค้ากดเข้าไปตรวจสอบเอกสารต้นฉบับได้ทันที

## วิธีที่ 2: สอนให้ AI รู้จักปฏิเสธลูกค้า

ระบบ AI ส่วนใหญ่ถูกตั้งค่ามาจากโรงงานให้เป็นมิตรและช่วยเหลือผู้คน คุณจึงต้องลงมือเขียนระบบเพื่อสอนให้มันรู้จักปฏิเสธและส่งต่อเรื่องให้พนักงานที่เป็นมนุษย์

คุณควรทำรายการคำถามต้องห้ามที่แชทบอทไม่มีสิทธิ์ตัดสินใจ เช่น คำถามเกี่ยวกับการขอคืนเงิน การร้องเรียนเรื่องสินค้าชำรุด หรือคำแนะนำที่เกี่ยวข้องกับสุขภาพและกฎหมาย

เมื่อ AI ตรวจพบคำหรือรูปประโยคที่อยู่ในหมวดหมู่เหล่านี้ มันจะต้องตอบกลับด้วยรูปแบบมาตรฐานที่คุณกำหนดไว้เท่านั้น เช่น "ทางเราเข้าใจปัญหาของคุณเป็นอย่างดี เพื่อความถูกต้องและรวดเร็ว ขออนุญาตโอนสายให้เจ้าหน้าที่ฝ่ายดูแลลูกค้าเป็นผู้จัดการเรื่องนี้นะคะ" 

## วิธีที่ 3: ให้มนุษย์เป็นผู้กดอนุมัติขั้นตอนสุดท้าย

กฎเหล็กของการใช้ AI ในยุคปัจจุบันคือ อย่าปล่อยให้ระบบจัดการเรื่องเงินหรือคำสัญญาที่มีผลผูกพันทางกฎหมายโดยอัตโนมัติ 100%

หากลูกค้ายื่นเรื่องเคลมสินค้า แชทบอทสามารถทำหน้าที่เป็นผู้ช่วยรับเรื่อง รวบรวมข้อมูล สอบถามหมายเลขใบเสร็จ และสรุปประเด็นทั้งหมดส่งให้ทีมงานของคุณ แต่คนที่จะกดปุ่ม "อนุมัติการเคลม" ต้องเป็นพนักงานที่เป็นมนุษย์เท่านั้น

วิธีนี้ช่วยให้คุณลดภาระงานแอดมินที่น่าเบื่อไปได้กว่า 80% ในขณะที่ยังคงรักษากำแพงป้องกันความเสี่ยงทางกฎหมายไว้ได้อย่างสมบูรณ์แบบ

## เริ่มต้นตรวจสอบระบบของคุณตั้งแต่วันพรุ่งนี้

คดีของ Air Canada เป็นเพียงจุดเริ่มต้นของการฟ้องร้องที่จะตามมาอีกนับไม่ถ้วน แบรนด์ที่รอดพ้นจากวิกฤตนี้จะไม่ใช่แบรนด์ที่หลีกเลี่ยงการใช้ AI แต่เป็นแบรนด์ที่รู้วิธีควบคุมมัน

กลับไปถามทีมไอทีหรือหัวหน้าฝ่ายบริการลูกค้าของคุณในวันพรุ่งนี้ว่า แชทบอทบนหน้าเว็บไซต์ของเราถูกจำกัดขอบเขตข้อมูลไว้แค่ไหน และมีนโยบายไหนบ้างที่ระบบต้องโอนสายให้คนดูแล

AI คือผู้ช่วยที่ทรงพลัง แต่ในสายตาของกฎหมาย มันคือพนักงานต้อนรับที่คุณต้องรับผิดชอบทุกการกระทำ หากคุณไม่ยอมให้พนักงานใหม่ที่เพิ่งเข้างานวันแรกมาเซ็นอนุมัติเงินคืนหลักหมื่น คุณก็ไม่ควรปล่อยให้แชทบอททำเช่นนั้นเหมือนกัน