การกอด Face Inference API ด้วย Python

Kark Xd Face Inference Api Dwy Python



Hugging Face ได้รับการระบุว่าเป็นชุมชนของ AI แบบโอเพนซอร์สและประกอบด้วยเฟรมเวิร์ก เครื่องมือ สถาปัตยกรรม และโมเดลแบบโอเพนซอร์สมากมายเพื่อสร้างและโต้ตอบกับ AI และโมเดลการประมวลผลภาษาธรรมชาติ Hugging Face ให้การรบกวนที่ตั้งโปรแกรมได้ของแอปพลิเคชันในชื่อ “Inference API” API การอนุมานนี้ใช้สำหรับการปรับใช้แมชชีนเลิร์นนิงและโมเดล AI เพื่อการตัดสินใจและการคาดการณ์แบบเรียลไทม์ API นี้ช่วยให้นักพัฒนาสามารถใช้โมเดล NLP ที่ผ่านการฝึกอบรมล่วงหน้าเพื่อคาดการณ์ชุดข้อมูลใหม่

ไวยากรณ์:

Hugging Face มีบริการหลากหลาย แต่หนึ่งในบริการที่ใช้กันอย่างแพร่หลายคือ “API” API อนุญาตให้มีการโต้ตอบของ AI ที่ได้รับการฝึกฝนล่วงหน้าและโมเดลภาษาขนาดใหญ่กับแอปพลิเคชันต่างๆ Hugging Face มี API สำหรับรุ่นต่างๆ ตามรายการต่อไปนี้:

  • โมเดลการสร้างข้อความ
  • โมเดลการแปล
  • แบบจำลองสำหรับการวิเคราะห์ความรู้สึก
  • โมเดลสำหรับการพัฒนาตัวแทนเสมือน (แชทบอทอัจฉริยะ)
  • การจำแนกประเภทและแบบจำลองการถดถอย

ตอนนี้มาค้นพบวิธีการรับ API การอนุมานในแบบของคุณจาก Hugging Face ในการดำเนินการดังกล่าว ก่อนอื่นเราต้องเริ่มต้นด้วยการลงทะเบียนด้วยตนเองบนเว็บไซต์อย่างเป็นทางการของ Hugging Face เข้าร่วมชุมชน Hugging Face โดยลงทะเบียนกับเว็บไซต์นี้ด้วยข้อมูลประจำตัวของคุณ









เมื่อเราได้รับบัญชีบน Hugging Face แล้ว ตอนนี้เราต้องร้องขอ API การอนุมาน หากต้องการขอ API ให้ไปที่การตั้งค่าบัญชีและเลือก 'โทเค็นการเข้าถึง' หน้าต่างใหม่จะเปิดขึ้น เลือกตัวเลือก “โทเค็นใหม่” จากนั้นสร้างโทเค็นโดยระบุชื่อโทเค็นและบทบาทของโทเค็นเป็น “WRITE” ก่อน โทเค็นใหม่ถูกสร้างขึ้น ตอนนี้เราต้องบันทึกโทเค็นนี้ จนถึงจุดนี้ เรามีโทเค็นจาก Hugging Face ในตัวอย่างต่อไป เราจะมาดูกันว่าเราจะใช้โทเค็นนี้เพื่อรับ API การอนุมานได้อย่างไร







ตัวอย่างที่ 1: การสร้างต้นแบบด้วย Hugging Face Inference API

จนถึงตอนนี้ เราได้พูดถึงวิธีการเริ่มต้นใช้งาน Hugging Face และเราได้เริ่มต้นโทเค็นจาก Hugging Face ตัวอย่างนี้แสดงวิธีที่เราสามารถใช้โทเค็นที่สร้างขึ้นใหม่นี้เพื่อรับ API การอนุมานสำหรับโมเดลเฉพาะ (แมชชีนเลิร์นนิง) และทำการคาดคะเนผ่านโมเดลนั้น จากหน้าแรกของ Hugging Face เลือกรุ่นใดก็ได้ที่คุณต้องการใช้งานซึ่งเกี่ยวข้องกับปัญหาของคุณ สมมติว่าเราต้องการทำงานกับการจัดประเภทข้อความหรือโมเดลการวิเคราะห์ความรู้สึกตามที่แสดงในตัวอย่างต่อไปนี้ของรายการโมเดลเหล่านี้:



เราเลือกแบบจำลองการวิเคราะห์ความรู้สึกจากแบบจำลองนี้

หลังจากเลือกรุ่นแล้ว บัตรรุ่นจะปรากฏขึ้น การ์ดโมเดลนี้มีข้อมูลเกี่ยวกับรายละเอียดการฝึกอบรมของโมเดลและลักษณะเฉพาะของโมเดล แบบจำลองของเราคือ roBERTa-base ซึ่งได้รับการฝึกฝนบนทวีต 58M สำหรับการวิเคราะห์ความรู้สึก รุ่นนี้มีป้ายกำกับระดับหลักสามป้ายและจัดหมวดหมู่อินพุตแต่ละรายการเป็นป้ายกำกับระดับที่เกี่ยวข้อง

หลังจากเลือกรุ่นแล้ว หากเราเลือกปุ่มปรับใช้ซึ่งอยู่ที่มุมขวาบนของหน้าต่าง เมนูแบบเลื่อนลงจะเปิดขึ้น จากเมนูนี้ เราต้องเลือกตัวเลือก “Inference API”

จากนั้น API การอนุมานจะให้คำอธิบายทั้งหมดเกี่ยวกับวิธีการใช้โมเดลเฉพาะนี้กับการอนุมานนี้ และช่วยให้เราสร้างต้นแบบสำหรับโมเดล AI ได้อย่างรวดเร็ว หน้าต่าง API การอนุมานจะแสดงโค้ดที่เขียนด้วยสคริปต์ของ Python

เราคัดลอกโค้ดนี้และรันโค้ดนี้ใน Python IDE ใดก็ได้ เราใช้ Google Colab สำหรับสิ่งนี้ หลังจากรันโค้ดนี้ใน Python shell แล้ว จะส่งคืนเอาต์พุตที่มาพร้อมกับคะแนนและการคาดคะเนฉลาก ป้ายกำกับและคะแนนนี้กำหนดตามข้อมูลที่เราป้อน เนื่องจากเราเลือกโมเดล 'การวิเคราะห์ความรู้สึกทางข้อความ' จากนั้น อินพุตที่เราให้กับโมเดลคือประโยคเชิงบวก และโมเดลได้รับการฝึกฝนล่วงหน้าในคลาสป้ายกำกับสามประเภท: ป้ายกำกับ 0 หมายถึงเชิงลบ ป้ายกำกับ 1 หมายถึงเป็นกลาง และป้ายกำกับ 2 ถูกตั้งค่าเป็นบวก เนื่องจากอินพุตของเราเป็นประโยคเชิงบวก การคาดคะเนคะแนนจากโมเดลจึงมากกว่าป้ายกำกับอีกสองป้าย ซึ่งหมายความว่าโมเดลทำนายประโยคว่าเป็น 'ประโยคเชิงบวก'

นำเข้า คำขอ

API_URL = 'https://api-inference.huggingface.co/models/cardiffnlp/twitter-roberta-base-sentiment'
ส่วนหัว = { 'การอนุญาต' : 'ผู้ถือ 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' }

แน่นอน สอบถาม ( น้ำหนักบรรทุก ) :
การตอบสนอง = คำขอ โพสต์ ( API_URL , ส่วนหัว = ส่วนหัว , เจสัน = น้ำหนักบรรทุก )
กลับ การตอบสนอง. เจสัน ( )

เอาต์พุต = สอบถาม ( {
'อินพุต' : “ฉันรู้สึกดีเมื่อคุณอยู่กับฉัน” ,
} )

เอาท์พุต:

ตัวอย่างที่ 2: แบบจำลองการสรุปผ่านการอนุมาน

เราทำตามขั้นตอนเดียวกันกับที่แสดงในตัวอย่างก่อนหน้านี้และสร้างต้นแบบบัสแบบจำลองการสรุปโดยใช้ API การอนุมานจาก Hugging Face แบบจำลองการสรุปเป็นแบบจำลองที่ได้รับการฝึกอบรมล่วงหน้าซึ่งสรุปข้อความทั้งหมดที่เรามอบให้เป็นอินพุต ไปที่บัญชี Hugging Face คลิกที่โมเดลจากแถบเมนูด้านบน จากนั้นเลือกโมเดลที่เกี่ยวข้องกับการสรุป เลือกโมเดลนั้น และอ่านการ์ดโมเดลอย่างระมัดระวัง

แบบจำลองที่เราเลือกเป็นแบบจำลอง BART ที่ผ่านการฝึกอบรมมาล่วงหน้า และได้รับการปรับแต่งอย่างละเอียดสำหรับชุดข้อมูล CNN Dail Mail BART เป็นโมเดลที่คล้ายกับโมเดล BERT ซึ่งมีตัวเข้ารหัสและตัวถอดรหัส แบบจำลองนี้มีประสิทธิภาพเมื่อได้รับการปรับอย่างละเอียดสำหรับงานด้านความเข้าใจ การสรุป การแปล และการสร้างข้อความ

จากนั้น เลือกปุ่ม 'ปรับใช้' จากมุมขวาบน และเลือก API การอนุมานจากเมนูแบบเลื่อนลง API การอนุมานจะเปิดอีกหน้าต่างหนึ่งที่มีรหัสและคำแนะนำในการใช้โมเดลนี้กับการอนุมานนี้

คัดลอกโค้ดนี้และรันใน Python shell

โมเดลส่งคืนเอาต์พุตซึ่งเป็นการสรุปอินพุตที่เราป้อนเข้าไป

บทสรุป

เราทำงานกับ Hugging Face Inference API และเรียนรู้วิธีที่เราสามารถใช้อินเทอร์เฟซที่ตั้งโปรแกรมได้ของแอปพลิเคชันนี้เพื่อทำงานร่วมกับโมเดลภาษาที่ฝึกไว้ล่วงหน้า สองตัวอย่างที่เราทำในบทความอิงตามโมเดล NLP เป็นหลัก Hugging Face API สามารถทำงานได้อย่างมหัศจรรย์ หากเราต้องการพัฒนาต้นแบบที่รวดเร็วโดยการรวมโมเดล AI เข้ากับแอปพลิเคชันของเราอย่างรวดเร็ว กล่าวโดยย่อ Hugging Face มีวิธีแก้ปัญหาทั้งหมดของคุณตั้งแต่การเรียนรู้แบบเสริมแรงไปจนถึงการมองเห็นด้วยคอมพิวเตอร์