เราใช้ GPT-4 ในการจัดการคำขอบริการหลังการขายจำนวนล้านรายการ และประหยัดแรงงานได้ 32% อย่าไปตกอยู่ใน 3 ข้อผิดพลาดเหล่านี้อีกเลย

ในช่วงเวลาสูงสุดของโปรโมชั่น เมื่อเดือนที่แล้วทีมงานของเราสามคนจ้องมองแผงตรวจสอบและดูอัตราข้อผิดพลาด 429 ของคําขอใบสั่งงานหลังการขายกระโดดจาก 1% เป็น 12% รุ่นเล็ก ๆ ที่ใช้ก่อนหน้านี้ไม่สามารถรับการปรึกษาหารือหลายภาษา 1.2 ล้านรายการต่อวันและปริมาณการร้องเรียนของลูกค้าเพิ่มขึ้น 4 เท่าใน 24 ชั่วโมงในที่สุดก็ตัดการไหลของ GPT-4 ชั่วคราวเพื่อให้อัตราการแจ้งข้อผิดพลาดต่ํากว่า 0.3%

ก่อนอื่นเราต้องเข้าใจกันว่า GPT-4 สามารถช่วยประหยัดเวลาและค่าใช้จ่ายให้กับทีมขนาดเล็กและขนาดกลางได้อย่างไร

พูดง่ายๆก็คือมันเป็นโมเดลขนาดใหญ่ที่สมดุลที่สุดของ OpenAI ที่เปิดให้กับองค์กรในปัจจุบันรองรับการป้อนข้อมูลบริบทที่ยาวถึง 128k ความถูกต้องในการเข้าใจหลายภาษาสูงกว่า 40% เมื่อเทียบกับโมเดลขนาดเล็กในแนวตั้งส่วนใหญ่และคุณสามารถจัดการกับฉากที่ซับซ้อนโดยตรงโดยไม่ต้องปรับแต่งเพิ่มเติมมากเกินไป

สำหรับทีมเล็กๆ ของเราที่มีเพียง 20 คนที่ทำธุรกิจขายเครื่องใช้ไฟฟ้าข้ามประเทศ ผลประโยชน์ที่เห็นได้ชัดเจนที่สุดสามประการนั้นไม่จำเป็นต้องคำนวณค่า ROI ที่ซับซ้อนเลย:

• ข้อแรกคือ ไม่จำเป็นต้องจ้างบุคลากรแปลเฉพาะสำหรับใบสั่งงานที่มีหลายภาษาอีกต่อไป ระบบสามารถเข้าใจคำถามจากลูกค้าที่พูดภาษาสเปน ภาษาฝรั่งเศส และภาษาโปแลนด์ได้โดยตรง และยังสามารถตอบกลับไปเป็นภาษาที่เหมาะสมได้อีกด้วยค่าใช้จ่ายด้านบุคลากรหลังการขายของเราลดลงโดยตรงถึง 32%
• อัตราการตัดสินใจที่ถูกต้องสำหรับข้อบกพร่องที่ซับซ้อนนั้นสูงกว่าโมเดลเดิมมาก โดยโมเดลเดิมมีใบสั่งงานถึง 17% ที่ต้องได้รับการตรวจสอบยืนยันครั้งที่สองโดยมนุษย์ แต่ตอนนี้อัตรานั้นลดลงเหลือน้อยกว่า 4%
• ไม่จำเป็นต้องสะสมข้อมูลการฝึกอบรมที่ต้องการการปรับแต่งเล็กน้อยมากนัก แค่นำคู่มือการใช้งานผลิตภัณฑ์ใหม่ที่เพิ่งเปิดตัวเข้าไป ก็สามารถปรับให้เหมาะสมกับการให้คำปรึกษาหลังการขายได้ภายใน 2 ชั่วโมง ประสิทธิภาพจะเพิ่มขึ้นอย่างเห็นได้ชัดเจนเมื่อมีการจัดโปรโมชั่นใหญ่

อย่ามองแต่ข้อดีเท่านั้น พวกเราเคยเจอปัญหาจริงๆ หลายอย่างมาแล้ว

หลุมแรกคือการสูญเสียค่าใช้จ่ายเมื่อเราตัด GPT-4 เราไม่ได้ตัดการป้อนข้อมูล ผู้ใช้อัปโหลดภาพหน้าจอที่ล้มเหลวหลายสิบหน้าเป็นข้อความโดยตรง ค่าใช้จ่ายของโทเค็นของวันสูงกว่าสัปดาห์ก่อนหน้า ต่อมาเราเพิ่มขั้นตอนการกรองล่วงหน้าเพื่อคัดกรองข้อมูลซ้ําซ้อนที่ไม่มีประโยชน์ออกและลดค่าใช้จ่ายลงครึ่งหนึ่งโดยตรง

ข้อที่สองคือการ จํากัด ปัจจุบันเป็นเรื่องที่เจ็บหัวจริงๆหากเป็นการส่งเสริมการขายชั่วคราวสูงสุดโดยตรงอินเทอร์เฟซอย่างเป็นทางการมันเป็นเรื่องง่ายที่จะพบขีด จํากัด บนพร้อมกันเราพบกับการ จํากัด ปัจจุบัน 10 นาทีในวันเดียวกันต่อมาพบผู้จัดการลูกค้า 3 วันล่วงหน้าเพื่อยื่นคําขอขยายความจุชั่วคราวเพื่อแก้ปัญหาอย่ารอการจราจรขึ้นก่อนที่จะสมัคร

ประการที่สาม คือ การตัดสินผิดเกี่ยวกับเนื้อหาที่ละเอียดอ่อนผู้ใช้คนหนึ่งเพียงแค่พูดว่า "เปลือกร้อนเล็กน้อยเมื่อเตาอบร้อนจะไม่ระเบิด" โดยตรงถูกปิดกั้นโดยอินเทอร์เฟซความปลอดภัยเนื้อหาเพื่อส่งกลับข้อผิดพลาด ต่อมาเราเพิ่มชั้นของการตรวจสอบคําที่ละเอียดอ่อนก่อนคัดกรองคําหลักที่ปรึกษาความผิดปกติก่อนอัตราการตัดสินที่ผิดพลาดจะลดลงในระดับที่ยอมรับได้

ตอนนี้ควรจะเปลี่ยนมาใช้ GPT-4 หรือเปล่านะ? มาดูเกณฑ์สองข้อนี้กันก่อน

สถานการณ์ที่ควรใช้:หากคุณต้องจัดการกับเนื้อหาหลายภาษาการให้เหตุผลข้อความยาวที่ซับซ้อน (เช่นบทสรุปของเอกสารหลายสิบหน้าการให้คําปรึกษาหลังการขายหลายรอบการแก้จุดบกพร่องรหัส) หรือทีมงานของคุณไม่มีอัลกอริทึมเฉพาะสําหรับการปรับแต่งแบบจําลองขนาดเล็กใช้ GPT-4 โดยตรงจะคุ้มค่ากว่าการปรับแต่งแบบจําลองของคุณเอง

สถานการณ์ที่ไม่ควรใช้:หากสถานการณ์ของคุณเป็นเรื่องง่ายเป็นพิเศษเช่นการตอบกลับคําหลักการสร้างข้อความที่มีแม่แบบคงที่หรือข้อมูลทั้งหมดไม่สามารถออกจากโดเมนได้คุณไม่จําเป็นต้องใช้แบบจําลองขนาดเล็กราคาถูกหรือแม้กระทั่งเครื่องยนต์กฎการใช้จ่ายเงินนั้นจะสิ้นเปลือง

ข้อแนะนำเฉพาะสำหรับทีมที่เริ่มทำงานเป็นครั้งแรกสองข้อ

ประการแรกใช้ 10% ของการจราจรเพื่อทดสอบระดับสีเทาทํางาน 7 วันเพื่อดูว่าความถูกต้องที่เกิดขึ้นจริงต้นทุนและความเร็วในการตอบสนองเป็นไปตามความคาดหวังของคุณหรือไม่อย่ามาเปลี่ยนเต็มรูปแบบเราพบหลุม จํากัด ปัจจุบันในเวลานั้นตอนนี้ระดับสีเทาได้กลายเป็นกระบวนการคงที่สําหรับการเปลี่ยนแบบจําลองของเรา

ประการที่สองเราต้องเพิ่มชั้นการจัดตารางการจราจรด้านหน้าเพื่อจัดสรรคําขอที่เรียบง่ายให้กับโมเดลขนาดเล็กที่มีราคาถูกและส่งไปยัง GPT-4 เฉพาะคําขอที่ซับซ้อนและโมเดลขนาดเล็กไม่สามารถจัดการได้ หลังจากที่เราทําเช่นนี้ต้นทุนโมเดลโดยรวมลดลง 28% โดยไม่มีส่วนลดใด ๆ

ปัญหาเล็ก ๆ ทั่วไปสองข้อ

คำถาม: จะมีการรั่วไหลของข้อมูลหรือไม่? คำตอบ: หากคุณเลือกใช้ API รุ่นองค์กร (Enterprise Edition) OpenAI ระบุอย่างชัดเจนว่าจะไม่ใช้ข้อมูลที่ผู้ใช้ป้อนเข้ามาในการฝึกโมเดล และเราได้ทำการตรวจสอบความเป็นไปตามกฎหมายแล้ว ซึ่งเป็นไปตามข้อกำหนดของ GDPR ของสหภาพยุโรป คุณสามารถใช้งานได้อย่างมั่นใจ.

คำถาม: ความเร็วในการตอบสนองจะช้ามากไหม? คำตอบ: การขอคำแนะนำสำหรับใบสั่งงานทั่วไปจะได้รับการตอบกลับภายในเวลาไม่เกิน 150 มิลลิวินาที ส่วนกรณีที่มีการประมวลผลข้อความที่ยาวมากอาจใช้เวลาถึง 1 วินาที ซึ่งก็เพียงพอสำหรับสถานการณ์หลังการขายอยู่แล้ว