Згідно зі звітом платформи Protect AI, минулого тижня програма винагороди за виправлення помилок huntr bug bounty виявила майже три десятки дефектів в інструментах штучного інтелекту і машинного навчання (ML) з відкритим вихідним кодом.

Серед виявлених уразливостей − три критичні. Притому дві з них в інструментарії для розробників Lunary AI, обидві з оцінкою CVSS 9.1, і одна в графічному інтерфейсі користувача для ChatGPT під назвою Chuanhu Chat. Жовтневий звіт про вразливості також включає 18 серйозних недоліків, починаючи від відмови в обслуговуванні і закінчуючи віддаленим виконанням коду. У звіті Protect AI також висвітлюються уразливості в LocalAI, платформі для локального запуску моделей штучного інтелекту на споживчому обладнанні, LoLLMs, веб-інтерфейсі для різних систем штучного інтелекту, LangChain.js, фреймворку для розробки додатків на основі мовних моделей, і багато інших.

У статті дослідники безпеки Protect AI зазначають, що ці інструменти з відкритим вихідним кодом «завантажуються тисячі разів на місяць для створення корпоративних систем штучного інтелекту». Втім, три критичні вразливості вже були усунуті відповідними компаніями.