Неудача WizardLM-2: Microsoft признает провал в тестировании на токсичность
Неудача WizardLM-2: Microsoft признает провал в тестировании на токсичность
Microsoft выпустила новую модель искусственного интеллекта WizardLM-2, но вынуждена была отозвать её из-за неудачного прохождения тестирования на токсичность. Узнайте, какие проблемы возникли и как это отразилось на безопасности данных.
Заговор неудач стал неотвратимой тенью над WizardLM-2, свежим витком искусственного интеллекта от Microsoft. По данным PCMag, компания анонсировала модель 15 апреля 2024 года, но силой обстоятельств изъяла её из обращения всего через день.
Разработчики ИИ открыто признали свои упущения в соцсетях X, признав, что упустили момент проверки на токсичность в процессе разработки.
Отвечая на запросы пользователей, они признали свою ошибку и пообещали оперативно исправить ситуацию, выпустив обновленную модель.
WizardLM-2 имеет три версии: 8x22B, 70B и 7B. В ходе сравнения с OpenAI GPT-4 было замечено лишь незначительное отставание в одном из тестов.
Представитель компании Hugging Face высоко оценил открытость Microsoft в этом вопросе и выразил надежду на скорое восстановление модели на рынке.
Одновременно с этим, файлы WizardLM-2 были удалены из репозиториев GitHub и Hugging Face, что вызвало ошибки 404.
По словам Алона Бохмана, несколько разработчиков успели загрузить удаленную модель, но остается неясным, являются ли эти версии каким-либо риском для пользователей.
В апреле 2024 года Совет по оценке кибербезопасности США опубликовал отчет, выявивший уязвимости в системе Microsoft, которые позволили взлому электронной почты американских чиновников.
Атака коснулась десятков тысяч писем, включая переписку министра торговли и членов палаты представителей.
Отчет подчеркнул необходимость серьезных изменений в обеспечении безопасности в Microsoft.
Вскоре после этого TechCrunch сообщил о новой проблеме безопасности: на сервере хранения Azure обнаружены конфиденциальные данные, доступ к которым мог получить любой пользователь интернета.