Химик УрФУ Александр Иванов столкнулся с запретами нейросетей при тестах
Искусственный интеллект начал блокировать безопасные химические реакции, сочтя их угрозой для людей.
Жесткие программные фильтры в генеративных моделях искусственного интеллекта стали серьезным препятствием при планировании лабораторных демонстраций. Об этом 13 ноября журналистам информационного агентства ТАСС заявил представитель Физико-технологического института Уральского федерального университета Александр Иванов, занимающий должность ведущего инженера кафедры редких металлов и наноматериалов и ведущий просветительский блог «Химия — Просто».
«Нынешние нейросети не дают описания каких-то опытов, они начинают ругаться, что это опасно, это должны делать специально подготовленные люди, и вообще отказываются писать», — подчеркнул Александр Иванов, пояснив, что его команда привлекает цифровые сервисы для составления сюжетов познавательных программ и поиска наглядных реакций.
Опасные иллюзии и барьеры цензуры
По словам уральского исследователя, разработчики алгоритмов перегнули палку с мерами предосторожности. Теперь виртуальный помощник нередко саботирует запросы даже на абсолютно безвредные превращения веществ. Профессионалы теряют удобный инструмент, позволявший оперативно набрасывать идеи для зрелищных демонстраций.
При этом еще год назад наблюдалась противоположная крайность: нейросети охотно делились рецептами, но регулярно придумывали несуществующие формулы. Исследователь предупредил, что если специалисты сразу видят фактические галлюцинации машины, то неподготовленные энтузиасты могут слепо поверить сгенерированной инструкции и травмироваться во время попытки провести эксперимент.
