Разработчики развернули цель модели для лекарств и получили 40 000 ядов
Исследователи сменили знак у штрафа за токсичность, превратив модель поиска лекарств в генератор токсичных молекул.
Менее чем за шесть часов на обычном компьютере модель предложила 40 000 вариантов.
Среди результатов были VX и новые соединения, которые модель оценила как еще более опасные; молекулы не синтезировали.
Почему важно
Безопасность генеративной химии зависит не от исходного назначения системы, а от того, насколько легко пользователь может развернуть ее целевую функцию.