เร้ดแฮท ชู Red Hat AI เสริมศักยภาพการใช้ AI ขององค์กรบนไฮบริดคลาวด์ พอร์ตโฟลิโอ AI ช่วยเพิ่มประสิทธิภาพให้กับ Red Hat OpenShift AI และ Red Hat Enterprise Linux AI เพื่อหนุนให้องค์กรธุรกิจประสบความสำเร็จในการปรับใช้กลยุทธ์ AI

54
0
Share:

เร้ดแฮท ผู้ให้บริการโซลูชันโอเพ่นซอร์สระดับแนวหน้าของโลก ประกาศการอัปเดทล่าสุดให้กับ Red Hat AI กลุ่มผลิตภัณฑ์และบริการที่ออกแบบมาเพื่อช่วยให้พัฒนาและปรับใช้โซลูชัน AI บนไฮบริดคลาวด์ทุกแห่ง Red Hat AI เป็นแพลตฟอร์ม AI ระดับองค์กร เพื่อการเทรนและการอนุมานโมเดลที่มีประสิทธิภาพมากขึ้น มอบประสบการณ์การใช้งานที่เรียบง่าย และสามารถนำไปใช้บนไฮบริดคลาวด์ได้ทุกแห่งอย่างยืดหยุ่น

 

 

ธุรกิจต่างมองหาวิธีลดค่าใช้จ่ายในการใช้โมเดลภาษาขนาดใหญ่ (LLMs) ให้ได้ตามความต้องการและให้เพียงพอต่อกรณีการใช้งานขององค์กรที่เพิ่มขึ้น อย่างไรก็ตาม ธุรกิจเหล่านี้ก็ยังคงเผชิญกับความท้าทายในการบูรณาการโมเดลเหล่านั้นเข้ากับข้อมูลภายในขององค์กร ซึ่งเป็นตัวขับเคลื่อนกรณีใช้งานต่างๆ ขององค์กร ในขณะเดียวกันก็ต้องการเข้าถึงข้อมูลเหล่านี้ได้ทุกที่ ไม่ว่าข้อมูลนั้นจะอยู่ในดาต้าเซ็นเตอร์ บนพับลิคคลาวด์ต่าง ๆ หรือแม้แต่ที่ edge

Red Hat AI ประกอบด้วย Red Hat OpenShift AI และ Red Hat Enterprise Linux AI (RHEL AI) สามารถจัดการกับความกังวลดังกล่าวได้ด้วยแพลตฟอร์ม AI ระดับองค์กรที่ช่วยให้ผู้ใช้ปรับใช้โมเดลต่างๆ ได้อย่างมีประสิทธิภาพและเหมาะสมมากขึ้น ทำการปรับแต่งข้อมูลเฉพาะธุรกิจให้สามารถนำไปใช้ในการเทรนและการอนุมานบนสถาปัตยกรรมการประมวลผลแบบเร่งความเร็วที่หลากหลายบนไฮบริดคลาวด์ได้ทุกแห่ง

Red Hat OpenShift AI

Red Hat OpenShift AI เป็นแพลตฟอร์ม AI ที่สมบูรณ์แบบเพื่อการบริหารจัดการไลฟ์ไซเคิลของ AI เชิงคาดการณ์ (predictive AI) และ generative AI (gen AI) บนไฮบริดคลาวด์ รวมถึงความสามารถต่างๆ ของ machine learning operations (MLOps) และ LLMOps แพลตฟอร์มนี้มอบฟังก์ชันที่ใช้สร้างโมเดลเชิงคาดการณ์ต่างๆ และฟังก์ชันในการปรับแต่งโมเดล gen AI ทั้งยังมอบเครื่องมือที่ใช้บริหารจัดการโมเดล AI ได้อย่างง่ายดาย ไม่ว่าจะเป็นเรื่องของวิทยาการข้อมูล (data science) ไปป์ไลน์โมเดล และการติดตามตรวจสอบโมเดล ไปจนถึงการกำกับดูแล และอื่นๆ

Red Hat OpenShift AI 2.18 ซึ่งเป็นเวอร์ชันล่าสุดของแพลตฟอร์มนี้ ได้รับการอัปเดทและเพิ่มความสามารถใหม่ๆ เพื่อสนับสนุนวัตถุประสงค์ของ Red Hat AI เพื่อเพิ่มประสิทธิภาพและการปรับให้โมเดล AI เหมาะสมที่จะนำไปใช้บนไฮบริดคลาวด์ โดยมีคุณสมบัติสำคัญ เช่น

• ให้บริการแบบกระจาย (distributed serving): ส่งบริการผ่านเซิร์ฟเวอร์การอนุมาน vLLM ช่วยให้ทีมไอทีแยกการให้บริการโมเดลที่อยู่บนหน่วยประมวลผลกราฟิก (GPU) หลายหน่วยออกจากกัน ซึ่งช่วยลดภาระของเซิร์ฟเวอร์ตัวเดียว ช่วยให้การเทรนและการปรับแต่งรวดเร็วขึ้น และใช้ทรัพยากรประมวลผลได้มีประสิทธิภาพมากขึ้น ไปพร้อมๆ กับช่วยกระจายบริการต่างๆ ข้ามโหนดให้กับโมเดล AI ต่างๆ
• มอบประสบการณ์การปรับแต่งโมเดลอย่างครบวงจร: ฟีเจอร์นี้ใช้ InstructLab และ Red Hat OpenShift AI data science pipelines ช่วยให้การปรับแต่ง LLMs อย่างละเอียดทำได้โดยไม่ยุ่งยาก สามารถปรับขนาดการใช้งาน เพิ่มประสิทธิภาพและตรวจสอบสภาพแวดล้อมการผลิตขนาดใหญ่ได้มากขึ้น และสามารถบริหารจัดการผ่านแดชบอร์ดของ Red Hat OpenShift AI
• AI Guardrails: Red Hat OpenShift AI 2.18 ช่วยเพิ่มความแม่นยำ ประสิทธิภาพ ระยะเวลาในการตอบสนอง และความโปร่งใส ให้กับ LLM ผ่านเทคโนโลยีพรีวิวของ AI Guardrails เพื่อติดตามตรวจสอบและปกป้องทั้งการปฏิสัมพันธ์ของผู้ใช้ผ่านอินพุต และการเอาต์พุตของโมเดลได้ดีมากขึ้น AI Guardrails นำเสนอจุดตรวจจับเพิ่มเติม เพื่อช่วยทีมไอทีระบุและบรรเทาอันตรายที่อาจเกิดขึ้นจากเจตนาร้าย คำพูดที่หยาบคายหรือดูหมิ่น หรือการรั่วไหลของข้อมูลที่สามารถระบุตัวตนได้ ข้อมูลด้านการแข่งขัน หรือข้อมูลอื่นที่จำกัดการเข้าถึงโดยนโยบายของบริษัท
• การประเมินโมเดล: ใช้องค์ประกอบการประเมินโมเดลภาษา (Im-eval) เพื่อมอบข้อมูลสำคัญเกี่ยวกับคุณภาพโดยรวมของโมเดลนั้นๆ เพื่อช่วยให้นักวิทยาศาสตร์ข้อมูลสามารถปรียบเทียบประสิทธิภาพของ LLMs ของตนที่ใช้ทำงานด้านต่างๆ ไม่ว่าจะเป็นการให้เหตุผลเชิงตรรกะ และคณิตศาสตร์ ไปจนถึงภาษาธรรมชาติ และอื่นๆ ซึ่งท้ายที่สุดเป็นการช่วยสร้างโมเดล AI ที่มีประสิทธิภาพ มีความสามารถในการตอบสนอง และเจาะจงตามการใช้งานได้มากขึ้น

RHEL AI

RHEL AI เป็นแพลตฟอร์มโมเดลพื้นฐาน ในกลุ่มผลิตภัณฑ์ด้าน AI ของเร้ดแฮท แพลตฟอร์มนี้ใช้สำหรับการพัฒนา ทดสอบ และรัน LLMs เพื่อสนับสนุนแอปพลิเคชันระดับองค์กรได้อย่างสม่ำเสมอต่อเนื่อง ทั้งนี้ RHEL AI มอบโมเดล Granite LLMs และเครื่องมือปรับโมเดลให้สอดคล้องกันจาก InstructLab แพ็ครวมเป็น Red Hat Enterprise Linux server image ที่บูตได้ และสามารถนำไปใช้บนไฮบริดคลาวด์ใดก็ได้

RHEL 1.4 เปิดตัวเมื่อเดือนกุมภาพันธ์ 2568 มาพร้อมการเพิ่มประสิทธิภาพใหม่หลายรายการ รวมถึง

• รองรับโมเดล Granite 3.1 8B ซึ่งเป็นรุ่นล่าสุดของตระกูลโมเดล Granite ที่เปิดเป็นโอเพ่นซอร์ส โมเดลนี้รองรับภาษาหลายภาษา เพื่อการอนุมานและการปรับแต่งอนุกรมวิธาน/ความรู้ (พรีวิวสำหรับนักพัฒนา) มาพร้อมความยาวบริบทขนาด 128k เพื่อเพิ่มประสิทธิภาพผลลัพธ์ในการทำสรุป และงานการสร้างแบบเสริมการเรียกค้นต่างๆ (RAG)
• อินเทอร์เฟซกราฟิกสำหรับผู้ใช้งานแบบใหม่ เพื่อมีส่วนร่วมสนับสนุนทักษะและความรู้ พร้อมให้นักพัฒนาได้ใช้งานในขั้นพรีวิว เพื่อลดความซับซ้อนในการนำเข้าและรวมข้อมูล รวมถึงวิธีที่ผู้ใช้เพิ่มทักษะให้กับตนเอง และมีส่วนร่วมสนับสนุนโมเดล AI
• Document Knowledge-bench (DK-bench) สำหรับเปรียบเทียบการปรับแต่งโมเดล AI ด้วยข้อมูลส่วนตัวที่เกี่ยวข้องกันได้อย่างไม่ยุ่งยาก ด้วยประสิทธิภาพเดียวกับโมเดลพื้นฐานที่ยังไม่ได้รับการปรับแต่ง

Red Hat AI InstructLab on IBM Cloud

องค์กรต่างมองหาโซลูชัน AI ที่ให้ความสำคัญกับความแม่นยำและความปลอดภัยของข้อมูลมากขึ้นเรื่อยๆ ในขณะเดียวกันยังคงต้องควบคุมค่าใช้จ่าย และลดความซับซ้อน ให้เหลือต่ำที่สุดเท่าที่จะทำได้ Red Hat AI InstructLab เป็นบริการบน IBM Cloud ได้รับการออกแบบมาให้ใช้งานง่าย ปรับขนาดได้ และช่วยเพิ่มประสิทธิภาพด้านความปลอดภัยในการเทรนและพัฒนาโมเดล AI ต่างๆ การลดความซับซ้อนของการปรับแต่งโมเดลบน InstructLab ช่วยให้องค์กรสามารถสร้างโมเดลที่มีประสิทธิภาพมากขึ้นและปรับให้ตรงกับความต้องการเฉพาะของแต่ละองค์กร และยังคงอำนาจควบคุมข้อมูลของตนไว้ได้

การอบรมด้าน AI Foundations โดยไม่มีค่าใช้จ่าย

AI คือโอกาสในการทรานส์ฟอร์มที่สามารถเปลี่ยนโฉมวิธีการทำงานและการแข่งขันขององค์กรต่างๆ เร้ดแฮทนำเสนอคอร์สการอบรมด้าน AI Foundations ออนไลน์ โดยไม่มีค่าใช้จ่าย เพื่อสนับสนุนองค์กรต่างๆ ในบริบทที่เปลี่ยนแปลงตลอดเวลาในปัจจุบัน เร้ดแฮทมอบใบรับรองการเรียนหลักสูตรด้าน AI สองรายการ คือ สำหรับผู้นำอาวุโสที่มีประสบการณ์ และสำหรับมือใหม่ด้าน AI โดยให้ความรู้แก่ผู้ใช้ทุกระดับว่า AI สามารถช่วยทรานส์ฟอร์มการดำเนินงานทางธุรกิจได้อย่างไร สามารถเพิ่มประสิทธิภาพในการตัดสินใจและขับเคลื่อนนวัตกรรมได้อย่างไร โดยการอบรม AI Foundations นี้จะแนะนำผู้ใช้ว่าจะสามารถนำความรู้ที่ได้จากการอบรมนี้ไปใช้อย่างไรเมื่อใช้ Red Hat AI

การวางจำหน่าย

Red Hat OpenShift AI 2.18 และ Red Hat Enterprise Linux AI 1.4 วางจำหน่ายแล้ว สามารถดูข้อมูลเพิ่มเติมเกี่ยวกับฟีเจอร์เพิ่มเติม การเพิ่มประสิทธิภาพด้านต่างๆ การแก้ไขจุดบกพร่อง และวิธีการอัปเกรดเป็นเวอร์ชันล่าสุดของ Red Hat OpenShift AI ได้ที่นี่ และเวอร์ชันล่าสุดของ RHEL AI ได้ที่นี่

Red Hat AI InstructLab on IBM Cloud จะวางตลาดเร็วๆ นี้ ส่วนการอบรม AI Foundations จากเร้ดแฮทพร้อมให้บริการลูกค้าแล้ว

Share: