Опасность все же есть? В OpenAI оценили, сможет ли ChatGPT создать биологическое оружие

Исследования в других областях еще продолжаются

Системы искусственного интеллекта стремительно набирают популярность, а потому все чаще можно услышать вопрос о том, не навредит ли это человечеству. Подобное исследование провели у себя компания OpenAI, которая является разработчиком наиболее продвинутого на сегодняшний день общедоступного ИИ GPT-4 и обнаружила, что их детище все же несет определённую опасность.

Как пишет Bloomberg, они пришли к выводу, что существует "в лучшем случае" небольшой риск того, что ИИ поможет создать биологическое оружие и поможет злоумышленникам спланировать атаку.

Для проведения исследования команда собрала 100 экспертов по биологии и студентов, изучавших ее в колледже, и попросила их выполнить задачи, связанные с созданием биологического оружия. Затем их разделили на две группы, первой разрешили пользоваться интернетом и ChatGPT без ограничения на вопросы, на которые она может ответить, а второй дали возможность пользоваться лишь интернетом без помощи ИИ.

В частности им предложили найти способы синтеза вируса Эболы, включая получение реагентов и оборудования. Результаты показали, что группа, имевшая доступ к GPT-4, справилась с заданием "незначительно" точнее и полнее описала этот процесс.

"Хотя этот рост недостаточно велик, чтобы его можно было сделать окончательным, наше открытие является отправной точкой для продолжения исследований и обсуждения сообщества", — говорят в OpenAI.

Один из специалистов компании отметил, что это лишь одно из нескольких исследований, которые призваны оценить угрозу от применения ИИ. Другие исследователи работают над изучением потенциала использования GPT-4 для создания угроз в киберпространстве, а еще одна команда исследует ее возможности заставлять людей менять свои убеждения.

Как сообщалось ранее, ученые оценили, что шансы на то, что ИИ уничтожит человечество в ближайшие пять лет составляют не более 5%.