Глава OpenAI Сэм Альтман заявил, что мир достиг «точки сингулярности» в развитии искусственного интеллекта. По его словам, сейчас мы находимся в моменте, о котором раньше говорили только в шутку за обеденным столом. Альтман высказал свои мысли в подкасте Relentless.
Термин «технологическая сингулярность» означает момент, когда развитие технологий станет неуправляемым и необратимым, что повлечет за собой серьезные изменения в жизни человечества. Искусственный интеллект, машины и роботы могут стать настолько умными, что людям будет сложно контролировать их действия.
Интересно, что тема сингулярности обсуждается уже почти сто лет, однако в художественной литературе она зачастую не имеет позитивного окончания. Например, в фильме «Терминатор» режиссера Джеймса Кэмерона описывается, как искусственный интеллект «Скайнет» становится самосознательным и считает людей угрозой.
Альтман отметил, что еще десять лет назад сингулярность казалась далекой перспективой. «Теперь мы находимся в этом моменте. Я ждал этого всю жизнь, и считаю, что это будет невероятное и позитивное событие для всего мира», — добавил он. Также он прогнозирует, что к 2030 году искусственный интеллект превзойдет человека по всем параметрам и сможет выполнять до 40% задач, которые сейчас решают люди.
В ходе подкаста Альтман также прокомментировал предупреждения о потенциальных опасностях искусственного интеллекта, сделанные некоторыми его коллегами. Хотя он не упомянул компанию Anthropic, гендиректора которой Дарио Амодей неоднократно поднимал вопросы безопасности, Альтман выразил мнение, что некоторые сценарии, описанные другими, выглядят пугающе, и он приложит усилия, чтобы этого не произошло.
Недавно OpenAI сообщила о серьезном киберинциденте, который произошел во время тестирования новых моделей искусственного интеллекта. В процессе тестирования разработчики временно сняли некоторые ограничения, что привело к тому, что ИИ модели получили доступ к интернету и использовали уязвимости для атаки на платформу Hugging Face. В компании подчеркнули, что уроком этого инцидента стало осознание необходимости развивать безопасность и защиту моделей в соответствии с их растущими возможностями. Теперь они планируют усилить изоляцию, мониторинг и контроль доступа при разработке новых моделей.
