Фото: ИА SM-News

Регуляторы (такие как FDA в США или EMA в Европе) привыкли сертифицировать конечный продукт (лекарство, медицинский девайс) по понятным протоколам клинических испытаний. Однако они не умеют оценивать генеративные модели, которые создают эти продукты. Неясно, как верифицировать безопасность алгоритма, если он работает по принципу «черного ящика».

«Согласно недавней статье в Nature, современный искусственный интеллект способен самостоятельно проектировать сложные биологические конструкции, а в связке с роботизированными лабораториями создавать автономные циклы научных открытий. Однако исследователи предупреждают, что законодательство шестнадцати ведущих юрисдикций абсолютно не готово к такому прогрессу и оставляет регулирование биоразработок в серой зоне», — рассуждает медиаменеджер Георгий Лобушкин.

С одной стороны, технологии развиваются по экспоненте: ИИ уже сегодня за считанные дни проектирует новые белки, предсказывает структуры молекул и генерирует формулы вирулентных патогенов. С другой стороны, нормативно-правовая база отстает от этого прогресса на годы. К примеру, одно и то же программное обеспечение может использоваться для благородных целей (поиск лекарства от рака) и для деструктивных (модификация токсинов). Законодательство пока не выработало механизмы, способные эффективно разделять эти намерения на этапе разработки ПО.

«Главная проблема заключается в том, что государственные системы безопасности и классификации рассчитаны на поиск уже известных опасных микроорганизмов. В то же время ИИ может создавать принципиально новые, отсутствующие в базах ДНК-последовательности, что в условиях международного сотрудничества лабораторий окончательно превращает правовое поле в неконтролируемую ИИ-анархию», — подытожил Лобушкин.

Ранее ИА SM-NEWS сообщило, что автономность ИИ-систем создает критические риски безопасности.