კომპანია Red Hat-მა გამოაცხადა ახალი დისტრიბუტივის – Red Hat Enterprise Linux AI (RHEL AI) გამოშვების შესახებ, რომელიც სპეციალურად არის ადაპტირებული მანქანური სწავლების ამოცანებისთვის და მიზნად ისახავს გაამარტივოს სერვერული გადაწყვეტილებების შექმნა, რომლებიც იყენებენ დიდ ენობრივ მოდელებს.
დისტრიბუტივი მოიცავს მანქანური სწავლების ინსტრუმენტებისა და ფრეიმვორკების ნაკრებს, დრაივერებს AMD, Intel და NVIDIA-ს სხვადასხვა აპარატული ამაჩქარებლებისთვის, და კომპონენტებს Dell, Cisco, HPE, Lenovo და SuperMicro სერვერების შესაძლებლობების გამოსაყენებლად, რომლებიც ოპტიმიზირებულია AI სისტემებისთვის. დისტრიბუტივები ვრცელდება Red Hat Customer Portal-ის მეშვეობით, როგორც სერვერებზე პირდაპირი ინსტალაციისთვის, ასევე AWS და IBM Cloud-ში განთავსებისთვის.
პლატფორმა შეიძლება გამოყენებულ იქნას კორპორატიული AI აპლიკაციების შესაქმნელად, კონტენტის გენერაციის სერვისების დასანერგად, დიალოგური სისტემების შესაქმნელად და ვირტუალური ასისტენტების აპლიკაციებში ინტეგრირებისთვის, რომლებსაც აქვთ ისეთი უნარები, როგორიცაა ბუნებრივ ენაზე კითხვებზე პასუხის გაცემა, მათემატიკური ამოცანების გადაჭრა, მოცემულ თემაზე აზრიანი ტექსტის გენერირება, შინაარსის მოკლე შეჯამება, ტექსტში შეცდომების გასწორება, სხვა სიტყვებით გადაწერა, სხვადასხვა პროგრამირების ენებზე კოდის წერაში დახმარება, შაბლონის მიხედვით წერილებისა და დოკუმენტების შედგენა.
RHEL AI-ში ინტეგრირებულია კომპონენტები მანქანური სწავლების სისტემების შექმნის, ტესტირებისა და შესრულებისთვის, რომლებიც დაფუძნებულია Granite დიდ ენობრივ მოდელზე, რომელიც IBM-მა გამოაქვეყნა Apache 2.0 ლიცენზიით. ეს მოდელი შეუძლია გაითვალისწინოს 4 ათასამდე ტოკენი ტექსტის გენერაციისას და მოიცავს 7 მილიარდ პარამეტრს. Granite მოდელთან ურთიერთობისთვის დისტრიბუტივში ინტეგრირებულია ღია წყაროს ინსტრუმენტი InstructLab, რომელიც მხარს უჭერს LAB (Large-scale Alignment for chatBots) მეთოდოლოგიას მოდელების საკუთარ საჭიროებებზე მორგებისა და ოპტიმიზაციისთვის, ასევე წინასწარ ნატრენინგებულ მოდელებში დამატებითი ცოდნის შესატანად და ახალი უნარების რეალიზებისთვის.