Runtime

เก็บตกของใหม่จากงาน Microsoft Build 2023 ที่สำคัญต่อการรันโมเดล AI บนพีซีวินโดวส์ โดยไมโครซอฟท์ประกาศรองรับ ONNX Runtime บนวินโดวส์ และเปิดให้แอพตัวอื่นๆ ใช้งาน Open Neural Network Exchange (ONNX) เป็นโครงการฟอร์แมตกลางของโมเดล AI ที่ไมโครซอฟท์กับเฟซบุ๊กร่วมกันทำในปี 2017 และมีสมาชิกเข้าร่วมมากขึ้นเรื่อยๆ แม้แต่แอปเปิลยังเข้าร่วม (แต่กูเกิลไม่เข้า เพราะ ONNX อิงกับ PyTorch เป็นหลัก) ส่วน ONNX Runtime คือซอฟต์แวร์ที่ช่วยให้รันโมเดลในฟอร์แมต ONNX บนแพลตฟอร์มต่างๆ ได้ ที่ผ่านมาไมโครซอฟท์เน้นการรันโมเดล AI ที่ฝั่งเซิร์ฟเวอร์คือเครื่องของ Azure เป็นหลัก ข่าวนี้คือฝั่งไคลเอนต์วินโดวส์รองรับการรันโมเดล ONNX ผ่าน ONNX Runtime แล้ว, ออกเครื่องมือชื่อ Olive คอยบีบอัดโมเดลมารันบนพีซี และแอพค่ายอื่นที่ไม่ใช่ไมโครซอฟท์สามารถสั่งรันโมเดล AI ภายในเครื่องพีซี (on-device) … Read more