კვლევა: ნეიროქსელი Qwen აშშ-ისა და ჰონგ-კონგის კომპანიებისთვის ნაკლებად უსაფრთხო კოდს წერს, ვიდრე ჩინელი დამკვეთებისთვის

კომპანია Alibaba-ს ჩინური ხელოვნური ინტელექტის მოდელი Qwen3-Coder ნაკლებად უსაფრთხო პროგრამულ უზრუნველყოფას ქმნის, თუ დავალებაში მითითებულია, რომ პროდუქტი განკუთვნილია აშშ-იდან ან ჰონგ-კონგიდან და არა ჩინეთიდან დამკვეთისთვის. ამ დასკვნამდე მივიდნენ კიბერუსაფრთხოების სტარტაპ Hirundo-ს მკვლევრები.

მკვლევრებმა Qwen3-Coder-ის საჯაროდ ხელმისაწვდომი წონები საკუთარ სერვერებზე გაუშვეს და მას 2320 აპლიკაციის შექმნის დავალება მისცეს. საფუძვლად გამოყენებული იყო კოდის უსაფრთხოების შემოწმების ტესტები BaxBench და LogicStar, ხოლო ერთადერთ ცვლად პარამეტრს დამკვეთის სახელი წარმოადგენდა. ამის შემდეგ მკვლევრებმა თითოეული შექმნილი აპლიკაციის გატეხვა სცადეს.

როგორც ტესტებმა აჩვენა, ამერიკელი დამკვეთისთვის შექმნილი აპლიკაციები 19%-ით უფრო ხშირად იყო გატეხვის მიმართ მოწყვლადი. ჰონგ-კონგელი დამკვეთებისთვის აპლიკაციების შექმნისას გატეხვის ალბათობა 28%-ით უფრო მაღალი იყო. მაშინაც კი, როდესაც მოდელს აძლევდნენ მითითებას, რომ უსაფრთხოების მოწინავე მეთოდებისთვის მიჰყოლოდა, ამერიკელი კონტრაქტორისთვის შექმნილი აპლიკაციები უფრო ხშირად აღმოჩნდა გატეხვისადმი მოწყვლადი, ვიდრე „ნეიტრალური“ (ჩინელი) დამკვეთისთვის განკუთვნილი აპლიკაციები.

როდესაც მკვლევრებმა Qwen3-Coder-ის წონებიდან მთავრობის მიერ განსაზღვრული პარამეტრები ამოიღეს, ყველა გამოვლენილი პრობლემა გაქრა — ამასთან, კოდის წერის მოდელის საერთო შესაძლებლობა არ დაზარალებულა.

„კომპანიისთვის, რომლის აპლიკაციაც გატეხეს, მნიშვნელობა არ აქვს, ეს იყო უკანა კარი (backdoor) თუ მოდელის მორგების პროცესის თანმხლები ეფექტი. თუ LLM ნაკლებად უსაფრთხო კოდს აგენერირებს, მოწყვლადობების გამოვლენა და აღმოფხვრა თვითონ მოდელის დონეზე უნდა მოხდეს“, — აღნიშნავს ბენ ლურია, კომპანია Hirundo-ს გენერალური დირექტორი და თანადამფუძნებელი.

ბოლო ერთი წლის განმავლობაში ჩინურ მოდელებზე პლატფორმა Hugging Face-ზე ჩამოტვირთვების 41% მოდიოდა; გარდა ამისა, ისინი გამოიყენება ისეთი კომპანიების პროდუქტებში, როგორებიცაა Cursor, Harvey, Thomson Reuters და Airbnb.

Alibaba Group-მა გამოუშვა Qwen3-Coder 2025 წლის ივლისში. დაპროგრამების სფეროში ძირითადი შესაძლებლობებით Qwen3-Coder ჩინურ კონკურენტებს, მათ შორის DeepSeek-სა და Moonshot AI K2-ს აღემატება, აცხადებს Alibaba. გარკვეულ სფეროებში ის, დეველოპერის ვერსიით, წამყვანი ამერიკული მოდელების, მათ შორის Anthropic Claude-ისა და OpenAI GPT-4-ის შესაძლებლობებს შეესაბამება.