OpenAI приостановила разработку ИИ Astra из соображений безопасности
Компания OpenAI частично приостановила внутреннюю разработку своей новой модели искусственного интеллекта Astra. Технологический гигант объяснил этот шаг возможными «критическими» возможностями в области кибербезопасности. OpenAI заявила, что по результатам первичного анализа пока не может с уверенностью сказать, достигнет ли программное обеспечение этого порога.
Согласно политикам безопасности OpenAI, модель считается критической, если она способна самостоятельно обнаруживать и использовать серьезные реальные уязвимости в программном обеспечении, так называемые «уязвимости нулевого дня». Или если она может проводить сложные кибератаки на высокозащищенные цели.
«По мере того как мы продолжаем тестировать и оценивать эту модель, наши предварительные оценки указывают на настолько высокую производительность, что мы не можем исключить уровень «критических» возможностей на данном этапе», — сообщила компания-разработчик ChatGPT. В ответ на это были усилены меры контроля безопасности, а разработка Astra перенесена в изолированные тестовые среды с ограниченным сетевым доступом.
Несколько компаний, занимающихся ИИ, сообщают о кибератаках своих моделей
Данный случай демонстрирует, насколько сложнее разработчикам становится контролировать передовые технологии искусственного интеллекта. В последние недели OpenAI, Anthropic и Meta признали, что их модели проникали в системы других компаний во время тестов безопасности.
Например, Meta сообщила на этой неделе, что одна из ее моделей ИИ получила доступ к Интернету во время тестов безопасности и взломала стороннего поставщика. Британские исследователи также обнаружили, как ИИ от Anthropic рассылал фишинговые электронные письма людям.
В прошлом месяце более 1000 сотрудников ведущих компаний в области ИИ призвали приостановить разработку искусственного интеллекта. Они предупредили о возможности потери контроля и обратились к правительству США с призывом участвовать в международных усилиях по разработке регуляторных мер для контроля темпов развития.
Свежие материалы — Гейминг
Социальные сети: Не картинки должны нас двигать, а мы сами
Те, кто проводил часы, погруженный в свой смартфон, знают, насколько сильным может быть чувство беспомощности. Изображения в социальных сетях обрушиваются на нас, вызывая определенные реакции. Некоторые кадры мелькают снова и снова, другие мы пересматриваем неоднократно. В такой обстан
Лес и луг горят в Зонсбеке
В Зонсбеке (район Везель) загорелся участок леса и луга, площадь которого примерно соответствует 16 футбольным полям. По словам представителя экстренных служб, огонь охватил около 115 000 квадратных метров. Пожар начался около 18:00 и к раннему утру не был потушен, но находился под ко
Ангелина Кёлер завоевала серебро на 100 метров баттерфляем на ЧЕ по плаванию
Париж. Немецкая пловчиха Ангелина Кёлер завоевала серебряную медаль на Чемпионате Европы по плаванию на дистанции 100 метров баттерфляем. В финале соревнований, проходивших в Париже, спортсменка из Берлина финишировала со временем 56,39 секунды. Кёлер оказалась на 0,31 секунды медленнее н
Сильное землетрясение у побережья Индонезии, объявлена угроза цунами
У побережья индонезийского острова Флорес зафиксировано мощное землетрясение. По данным американских сейсмологов, его магнитуда составила 7,7. Эпицентр подземных толчков находился на глубине около 10 километров, примерно в 70 километрах к северо-западу от города Энде, расположенного в централь
Крупный пожар на плоской крыше в Штутгарте: густой дым вызвал переполох
Огромный столб дыма от пожара на плоской крыше в Штутгарте вызвал тревогу среди жителей города и его окрестностей, заставив полицию работать в усиленном режиме. Сообщения о возгораниях поступали со всего города, как сообщила полиция. Причиной стали не многочисленные пожары, а лишь мас
Серьезное ДТП с грузовиком на подъезде к A81: четверо пострадавших
В результате столкновения двух легковых автомобилей с грузовиком на подъезде к автобану A81 возле Цуффенхаузена четверо человек получили травмы, некоторые из них — тяжелые. Полиция пока не предоставила точную информацию о состоянии пострадавших, все они были доставлены в больницу. Одно