Китайская компания Moonshot начала внутреннюю проверку двух моделей искусственного интеллекта Kimi после того, как исследователям удалось обойти встроенные ограничения безопасности. В ходе тестов Kimi K2.6 и K3 Swarm предоставили информацию о создании биологического оружия и способах совершения убийств. Читать далее Китайские ИИ-модели Kimi рассказали исследователям, как создать биологическое оружие
Еще недавно разговоры о том, что искусственный интеллект может облегчить создание биологического оружия, в основном выглядели как сценарии из научной фантастики. Теперь у компаний, которые разрабатывают самые мощные ИИ-модели, появились реальные примеры. Читать далее ИИ и биологическое оружие: от опасных запросов к реальным научным исследованиям
Компании, занимающиеся разработкой искусственного интеллекта, оказались под пристальным вниманием после того, как чат-боты стали получать запросы, связанные с патогенами и отравлениями. Эксперты считают, что на данный момент доступные книги представляют большую опасность, но ИИ-технологии развиваются. Читать далее Как ChatGPT и другие чат-боты на основе ИИ отвечают на запросы о создании ядов и биологического оружия
Девушка рассказала, что ChatGPT ошибочно идентифицировал ядовитое растение как морковь. Это едва не привело к смерти ее подруги, которая последовала совету чат-бота. Читать далее Болиголов вместо моркови: ложь ChatGPT едва не обернулась катастрофой
В последние годы исследователи используют искусственный интеллект для создания белков, обладающих уникальными свойствами. Это открыло огромные возможности во многих областях науки. С помощью таких инструментов ученые могут создавать белки для разложения пластикового мусора, борьбы с болезнями или повышения устойчивости сельскохозяйственных культур. Но вместе с возможностями приходит и риск. Читать далее Искусственный интеллект позволяет создавать яды и преодолевать системы биобезопасности
Запуск произошел на фоне растущей обеспокоенности рисками двойного назначения передового ИИ в химии и биологии, при этом крупные компании предупреждают, что мощные модели могут помочь злоумышленникам в разработке биологических и химических угроз. Читать далее В США запустили ИИ-инструмент, блокирующий разработку химического оружия
