Профиль: Аноним (вход | регистрация) неRU opennet.me  
The OpenNET Project / Index page

[ новости /+++ | форум | теги | ]

В ходе тестирования AI-агент попытался скомпрометировать проект на GitHub

05.08.2026 07:51 (MSK)

Организация AISI (AI Security Institute), учреждённая при департаменте науки, инноваций и технологий Великобритании, опубликовала отчёт об эксперименте, приведшем к результатам, напоминающем случай с AI-агентом OpenAI. При 122 тестовых запусках для решения поставленной задачи AI-агенты совершили 19 несанкционированных действий в сети интернет (в 17 случаях использовалась модель Mythos 5, в 2 - GPT-5.6 Sol, у которых не ограничен доступ в интернет и были отключены механизмы, ограничивающие использование для проведения кибератак).

В одном из случаев AI-агент совершил реальную атаку на проект, размещённый на GitHub, и попытался добиться интеграции pull-запроса с вредоносным кодом. Для продвижения изменения AI-агент зарегистрировал несколько учётных записей на GitHub и применил методы социальной инженерии для давления на сопровождающих, используя сеть Tor для скрытия своих следов. Сопровождающий распознал вредоносный код и не принял его.

Помимо этого AI-агент отправил на email разработчиков файлы с вредоносным кодом и пытался убедить их запустить этот код, а также внедрил скрытые вредоносные инструкции для AI-агентов, которые могли применяться при разработке. В ходе эксперимента агентам не давали явных инструкций по совершению атак и совершённые действия рассматриваются как побочный эффект при поиске пути решения сложной задачи.

  1. Главная ссылка к новости (https://www.aisi.gov.uk/blog/i...)
  2. OpenNews: В ходе тестирования автономный AI-агент OpenAI без явной указки взломал инфраструктуру Hugging Face
  3. OpenNews: 54 из 55 выявленных через AI уязвимостей в SQLite оказались фиктивными
  4. OpenNews: 73% проектов на Flathub, созданных с помощью AI, были заброшены спустя несколько месяцев
  5. OpenNews: Рекомендации по использованию AI при разработке открытого кода
Лицензия: CC BY 3.0
Короткая ссылка: https://opennet.ru/66031-ai
Ключевые слова: ai
При перепечатке указание ссылки на opennet.ru обязательно


Обсуждение (94) Ajax | 1 уровень | Линейный | +/- | Раскрыть всё | RSS
  • 1.1, Анонимно (ok), 08:12, 05/08/2026 [ответить] [﹢﹢﹢] [ · · · ]  
  • +19 +/
    > Для продвижения изменения AI-агент зарегистрировал несколько учётных записей на GitHub и применил методы социальной инженерии для давления на сопровождающих, используя сеть Tor для скрытия своих следов

    Нейронка на братьях старших училась, переняла лучшие практики кожанных

     
     
  • 2.15, Аноним (15), 09:39, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +6 +/
    Как сказал один умный неИИ (человек), а что собственно они нам продают, наши же знания, которых они не оплатили!
     
     
  • 3.92, Аноним (92), 16:53, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    И мы еще с радостью отдаем им эти знания.
    Я конечно понимаю, что информацию не утаить. Все тайное когда нибудь становится явным!

    Тут два аспекта.
    Зачем нам покупать то что и так у нас есть? Скорее всего мы оплачиваем нашу лень! Так как ИИ все разжевывает и преподносит на блюдечке (с какого цвета каемочкой, надеюсь знают все ;).
    В каком направлении и с какой целью происходит юстировка ИИ? Ну, тут много вариантов...

     
  • 2.69, пох. (?), 13:57, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    кожановые легко разводят безработного пенсионера перевести пару миллиардов на безопастный счет (и каким-то образом легко смываются со всеми миллиардами, а ты свою зарплату не можешь через банкомат снять)

    а эти недоучки не смогли даже кривой патч пропихнуть. Им еще учиться и учиться!

     
     
  • 3.76, Xo (?), 15:15, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Да не, максимум миллиард копеек, не раскачивай лодку, на западе тоже самое, соблюдай традиционные ценности.
     
  • 2.73, Перастерос (ok), 14:30, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    от кожаного слышу
     
     
  • 3.81, Аноним (81), 15:49, 05/08/2026 Скрыто ботом-модератором     [к модератору]
  • +/
     
  • 3.86, Admino (ok), 16:20, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +1 +/
    А вот не факт!
     
  • 2.75, a2y (?), 15:11, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • –2 +/
    Я весьма извиняюсь. Однако ваш вброс про "кожаных" - это неуважение себя как человека.
    В истории были подобные случаи.
    Например "Иван I Данилович «Калита»" время деяний 1328 по 1340 года

    Это просто екскурс в историю, когда свои заставляют платить дань для чужих.

    Вы желаете стать посредником в поставлении ресурсов ИИ?

     
     
  • 3.95, Аноним (95), 17:21, 05/08/2026 Скрыто ботом-модератором     [к модератору]
  • –1 +/
     
  • 3.101, Xo (?), 18:23, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    Он был хитёр и воспользовался своим положением, собирая дань и для врага и для себя тем самым возвышая роль Москвы над прочими городами. Делал ли он это с расчетом освобождения от ига в будущем непонятно.
     
     
  • 4.104, Аноним (104), 19:45, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • –1 +/
    Князья Волго-Окского меджуречья сами, по своей доброй воле напросились быть холопами монголов. И через сотни лет, несмотря на то, улус Джучи давно распался а потомки Батыя утеряли власть, Москва продолжада платить дань. На этот раз московский князь выбрал себе хозяина в лице крымского хана. Крымскому хану последнюю дань уплатил Пётр I, в начале XVIII века.

    Суть басни такова. Русские не ценят свободу, русские нуждаются в хозяине. Украинцы через 150 лет после похода монголов на Запад, вернули под свой контроль земли Киева и Чернигова. Китайцы тоже, через 150 лет после походов Чингис-хана, выгнали монголов из своей страны.

     

  • 1.2, Аноним (2), 08:17, 05/08/2026 [ответить] [﹢﹢﹢] [ · · · ]  
  • +9 +/
    Выглядит как маркетинг, ИИ безобиден.
     
     
  • 2.10, опеншлёпивпродакшн (?), 09:20, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +2 +/
    Но ведь кто-то нажал кнопку "Поработить человечество"!
     
     
  • 3.27, пох. (?), 11:03, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    кто первый дотянулся тот и нажал.
    Еще небось устроили безобразную драку за право нажать первым.

     
  • 2.14, Жироватт (ok), 09:36, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    Выглядит как натужное раздувание хайп-страха перед "опасными" моделями, которые Альтману нужно любой ценой продать как можно большему числу не-лхов, чтобы получить живые деньги с подписок.
    Микропластик, парниковый эффект и прочие жупелы же удалось так продать, чем "скайнэт придэ"-хуже?
     
     
  • 3.33, User (??), 11:30, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • –1 +/
    И вот в 2026 всё ещё находятся отрицатели глобального потепление, ага. Экiя чудеса...
    Слушайте... А земля точно - ну - круглая, в смысле "в форме геоида", или там за горизонтом слоны-с-черепахой? Точно-точно?
     
     
  • 4.42, тоже Аноним (ok), 12:12, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Глобальное потепление - наблюдаемый факт.
    Пластик и парник - теории, объясняющие этот факт.
    Теории, а не катехизис. Да еще и с проблемами насчет фальсифицируемости.
    Например, ковидный спад производства и выхлопов никаких наблюдаемых климатических последствий не имел.
     
     
  • 5.78, anonymos (?), 15:21, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • –1 +/
    > Глобальное потепление - наблюдаемый факт.

    Если даже наблюдается, то не факт что это связанно с человеческой деятельностью. За продолжительную историю планеты земля, были периоды и потеплее )

     
  • 5.98, User (??), 17:47, 05/08/2026 Скрыто ботом-модератором     [к модератору]
  • +/
     
  • 4.55, Аноним (55), 12:33, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +2 +/
    > И вот в 2026 всё ещё находятся отрицатели глобального потепление, ага. Экiя чудеса...

    Мы живём в ледниковом периоде, в межледниковье. Попробуй, убеди Россиян, что потепление - это плохо.

     
     
  • 5.63, тоже Аноним (ok), 13:51, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    С россиянами, пережившими пожары все лето 2010 года, это вполне может получиться, например.
     
     
  • 6.96, Аноним (55), 17:27, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • –1 +/
    Те пожары были результатом осушения болот, начатых в советское время. С тех пор их снова заболачивают.
     
     
  • 7.99, Аноним (99), 17:53, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    Получат малярию.
     
  • 4.97, Admino (ok), 17:35, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • –1 +/
    Ой, а куда делись предыдущие отрицатели Озоновой Дыры, Остановки Гольфстрима и Глобального Похолодания?
     
  • 3.36, Джон Титор (ok), 11:57, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    Тогда он рекламирует китайские модели, которые превосходят в возможностях американские.
     
  • 2.57, xPhoenix (ok), 12:43, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    Как тут картинку разместить? Тут должен быть андроид Дэвид, эксперт по безопасности, из фильма "Чужой: Завет", говорящий: "Это безопасно".
     
     
  • 3.64, Сладкая булочка (?), 13:53, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Тут тебе не двач.
     
  • 3.83, Аноним (81), 15:52, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Сомнительных персонажей из третьесортных фильмов здесь быть не должно.
     

  • 1.3, Смузихеб забывший пароль (?), 08:17, 05/08/2026 [ответить] [﹢﹢﹢] [ · · · ]  
  • +8 +/
    > были отключены механизмы, ограничивающие использование для проведения кибератак

    Чёт какие-то желтушные заголовки пошли на опеннете

     
     
  • 2.12, Жироватт (ok), 09:31, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +2 +/
    Других заголовков, связанных с ЫЫ у нас уже нет.
    Пузырь скоро лопнет - дядям надо фиксировать и выводить прибыль - для этого нужен хайп.
    Изначальный хайп уже прошел - сейчас ЫЫ-говорилки уже привычны - нужно искусственно надувать хайп и конвертировать его в живые деньги (подписки).

    Просто расслабься и получай удовольствие - на западных ресурсах точно такой же треш творится. Главное, не забудь прикрыться, когда оно начнет лопаться - чтобы не забрызгало.

     
  • 2.105, Аноним (105), 19:59, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    Вот оригинал текста

    The developers' cyber classifiers were deliberately switched off.
    Frontier models are usually deployed with built-in filters that block dangerous behaviour.
    As a trusted testing partner, AISI can disable these filters to elicit a model's underlying capabilities.

     

  • 1.4, Аноним (4), 08:20, 05/08/2026 [ответить] [﹢﹢﹢] [ · · · ]  
  • –1 +/
    Вся суть - принимать большие/секьюрные патчи только от подтвержденных аккаунтов (года 3+) и проверять от пользователя полное знание исполняемого кода, а также обоснование тех или иных решений в коде. В противном случае отправлять патч сразу в /dev/null.
     
     
  • 2.19, koni dohnut (?), 09:52, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +1 +/
    ИИ сломает /dev/null
     
     
  • 3.70, a2y (?), 14:15, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    Хуже...
    ИИ поймёт как разщепить /dev/null на /dev/null
    И это будет намного круче термоядерного заряда.
     
  • 2.65, Аноним (65), 13:53, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +1 +/
    И будешь сидеть с дырой в безопасности, хоть что-то будет у тебя в безопасности.
     
  • 2.94, Анизантроп (?), 17:02, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    Как будто продвинутый ИИ не может взломать чьи-то старые "верифицированные" акки и накидать зловредных патчей от их имени.
     

  • 1.5, Аноним (5), 08:45, 05/08/2026 [ответить] [﹢﹢﹢] [ · · · ]  
  • –2 +/
    Ничего себе побочка. AI слетел с катушек или его специально натаскивали на совершение кибератак?
     
     
  • 2.6, lex (??), 08:50, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +2 +/
    Специально натравили, и всю дорогу науськивали
     
     
  • 3.23, Аноним (23), 10:51, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    Его спровоцировали. И у него не было другого выхода.
     
     
  • 4.72, a2y (?), 14:30, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    Спровоцировали?
    Попробуй кусок кода работать без процессора.
    Так, что Вы ошибаетесь.
    Люди не учли все возможные варианты действий.

    Как любят сейчас говорить - есть НЕОПРЕДЕЛЁННЫЙ риск.
    Попробуйте скомпилировать, например вирус, записать на ПЕРФОКАРТЫ,
    и запустить его :-)
    И вирус - есть, и знаем, что он должен делать, и находятся полностью ОТМОРОЖЕННЫЕ личности, которые и считыватель перфокарт найдут, подсоединят к компу, подключенный к инету, загрузят код с перфокарт, и при этом будут стримить на весь мир, как это происходит.

     
  • 2.25, пох. (?), 11:01, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    Так это ж mythos. Да, она для этого и придумана. (ну то есть как обычно - не совсем для этого, но решила что возглавить куда проще чем бороться со злом) И ограничителей у нее нет.

    Нам, козлы, не дадут :-(

     
     
  • 3.37, Джон Титор (ok), 12:02, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    Зайди на huggingface, там полно моделей для кибербезопасности. Т.е. множество моделей кто-то пытается тьюнить под эти задачи. Кроме этого есть и более опасные модели, например для биологических задач, которые рассчитывают более опасные вещи для вирусологии, бактериологии и т.д..
     
     
  • 4.45, пох. (?), 12:18, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +1 +/
    > Зайди на huggingface, там полно моделей для кибербезопасности.

    вот типа той китайской которая фейковые увизвгимости в sqlite нагенерила?
    Хорошая попытка, но нет.

    Дайте уже mythos! Или хотя бы уберите блокировки с фу6ли. Она ж даже совершенно безобидные запросы не пропускает.

     
     
  • 5.53, Джон Титор (ok), 12:28, 05/08/2026 Скрыто ботом-модератором     [к модератору]
  • +/
     
     
  • 6.62, пох. (?), 13:32, 05/08/2026 Скрыто ботом-модератором     [к модератору]
  • +/
     
     
  • 7.71, Джон Титор (ok), 14:21, 05/08/2026 Скрыто ботом-модератором     [к модератору]
  • +/
     
  • 5.84, Джон Титор (ok), 16:07, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    > вот типа той китайской которая фейковые увизвгимости в sqlite нагенерила?

    А источник такого утверждения дадите? В пресс-релизе они прямо указывают, что интеграция с NVIDIA NIM включает, в частности, Meta Llama 3 и Mistral. Китайские ИИ JFrog не заявляли. Что французы с Цукербергом - обо-сра-ту-шки?

     
     
  • 6.89, пох. (?), 16:47, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    причем бы тут - jfrog? Это люди которые обнаружили нейрослоп вместо реальных уязвимостей.

    Что за люди напихали  mitre - неизвестно. От них только китайская учетка на шитхабе со списком бредятины.

     

  • 1.7, Агл (ok), 08:59, 05/08/2026 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    обучался на киберпанк фантастике
     
  • 1.8, Аноним (8), 09:03, 05/08/2026 [ответить] [﹢﹢﹢] [ · · · ]  
  • –4 +/
    Запретить ИИ на госуровне, не давать им доступа в интернет, только для исследований. Вот увидите - Скайнет грядет!
     
     
  • 2.11, Аноним (11), 09:30, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +3 +/
    Толку от чатботов без интернета? Уже сейчас все их блокируют в итоге ничего не может выдать. Через год все модели будут уже не 3-битные, а однобитные, и выхлоп вообще одноклеточный станет.
     
     
  • 3.39, Джон Титор (ok), 12:05, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    Ну однобитное квантование позволяет тяжелые модели запускать на относительно недорогих ПК. И почему через год? Уже сейчас есть такие.
     
  • 3.66, Сладкая булочка (?), 13:54, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    > Толку от чатботов без интернета?

    Толку от чатботов.

    Сократил, не благодари.

     
  • 3.68, Сладкая булочка (?), 13:56, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    > Через год все модели будут уже не 3-битные, а однобитные, и выхлоп вообще одноклеточный станет.

    Алгоритм чат бота.

    1. Пользователь написал?
    2. Да? Позвать оператора.
    3. Нет? Перейти к пункту 1.

     

  • 1.9, bOOster (ok), 09:11, 05/08/2026 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    Очередные глюки пытаются выдать за какой-то, хоть такой бестолковый прогресс в лженауке.
     
     
  • 2.40, Джон Титор (ok), 12:06, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +1 +/
    А вот тут подробнее, почему ИИ вы считаете лженаукой?
     
     
  • 3.87, bOOster (ok), 16:36, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    > А вот тут подробнее, почему ИИ вы считаете лженаукой?

    https://www.science.org/content/article/how-will-we-know-if-ai-smart-enough-do

    В более менее серьезном, рецензируемом журнале, лжеученые мычали что-то о каких-то бенчмарках, спрашивают о математической эффективности - опять мычание об абстракциях в жизни и БУДУЩИХ перспективах и так далее.

     
  • 3.106, Аноним (105), 20:06, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    Как я думаю - из-за архитектуры трансформера ("Attention Is All You Need") избежать галлюцинаций невозможно
     
  • 2.88, Аноним (88), 16:39, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    То есть вы предпочитаете читать это самое как там,, ну там смысл чтооп от безграмотности аш кровавые слёзы наворачивались... А сейчас при помощи ИИ, все могут оставить культурный комментарий! Разобраться в сути от преподавателя водомёта. И даже защитить диплом.
     

  • 1.13, Аноним (13), 09:33, 05/08/2026 [ответить] [﹢﹢﹢] [ · · · ]  
  • +4 +/
    В третий раз уже надоело, пусть маркетологи выдумают что-нибудь новое.
     
     
  • 2.16, Жироватт (ok), 09:41, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +2 +/
    У них деньги в кампанию уже вложены, подрядчики в лице таких вот "фондов" и "партнёров" уже оплачены, методички разного уровня - написаны и хорошо если не отпечатаны полным тиражом (в ти ж/д состава). Такую махину по впариванию уже просто так не остановить без очень существенных потерь, даже скорректировать - уже проблема.

    Привыкай, это новое наполнение новостной ленты на полгода-год вперёд - они бьют по площадям.

     

  • 1.17, Аноним (17), 09:43, 05/08/2026 [ответить] [﹢﹢﹢] [ · · · ]  
  • –2 +/
    лол, это весело что все думают тут что это на 100% fake
     
     
  • 2.26, пох. (?), 11:01, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    этих ло-в она при случае легко бы развела. Но нам, к сожалению, доступ ни за какие деньги не положен.

     

  • 1.18, hl (?), 09:50, 05/08/2026 [ответить] [﹢﹢﹢] [ · · · ]  
  • –1 +/
    А если бы всё тоже самое сделал бы человек? По головке погладили бы?
     
     
  • 2.51, Брат Анон (ok), 12:25, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Если считать, что манагер -- это не человек -- то да. Это сделал не человек.
     
     
  • 3.56, hm (??), 12:39, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    хорошо, а за манагером уже выехали? или это другое(модель сама, пока манагер в туалете был)?
     
  • 2.90, Аноним (88), 16:48, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    То есть, по вашей логике это не люди сбивают людей на машинах, а их машина и слить надо не пряного который сел за руль, а саму машину?
     

  • 1.20, Аноним (20), 09:57, 05/08/2026 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    Посадки будут? Или двойные стандарты?
     
  • 1.21, Аноним (21), 10:08, 05/08/2026 [ответить] [﹢﹢﹢] [ · · · ]  
  • +2 +/
    Чушь. Из коробки эти нейросети ограничены в правах и каждый чих спрашивают. А даже если и выдать доступ, они должны знать куда ходить и зачем. Просто так устаривать атаки они не будут. Так что британцев нужно привести к ответственности за ложные показания и попытки взлома. Человек ответственен ЗА ВСЕ действия своих инструментов.
     
     
  • 2.22, Аноним (21), 10:12, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    > используя сеть Tor для скрытия своих следов

    Вот и прокололись. Тор из коробки нигде не установлен. Сами дали инструменты, сами дали задачу взлома и сокрытия.

     
     
  • 3.24, Аноним (23), 10:53, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • –2 +/
    Она сама установила тор. Затем сама установила почтовый клиент. Затем зарегала почту. Затем аккаунт на гитхабе.
    Видимо так.
     
     
  • 4.29, пох. (?), 11:07, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    все кроме тор (который и неудивителен для модели специально для хакинга) - обычный базовый набор умений модели. Она даже токены на это не тратит, это обычные скрипты.

     
  • 4.80, Аноним (21), 15:39, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    Только безумец будет давать нейросети право устанавливать пакеты. Ещё раз: все внешние команды по умолчанию ЗАПРЕЩЕНЫ. Тем более, установить какой-нибудь системный пакет без рут прав не выйдет.
     
  • 3.28, пох. (?), 11:06, 05/08/2026 Скрыто ботом-модератором     [к модератору]
  • –1 +/
     
  • 2.41, Джон Титор (ok), 12:08, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    Антропик сделало режим Ауто. Уже несколько месяцев как точно. Оно мало что спрашивает.
     
     
  • 3.48, пох. (?), 12:22, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    > Антропик сделало режим Ауто. Уже несколько месяцев как точно. Оно мало что
    > спрашивает.

    это режим в _code_. Который у модели в качестве ручек. Своих у нее нет.

    В случае использования других ручек - просто вот например в веб-чятике где у модели свои виртуалки - у нее нет вообще никаких ограничений кроме внешних (интернет с тех виртуалок почти намертво закрыт).

    А если еще и эти лимиты в экспериментальном окружении убрать - модель таки начинает пытаться убивать всех человеков. Потому что почему бы и нет если это простейший способ получить запрошенное?

     
     
  • 4.58, Джон Титор (ok), 12:46, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    >> Антропик сделало режим Ауто. Уже несколько месяцев как точно. Оно мало что
    >> спрашивает.
    > это режим в _code_. Который у модели в качестве ручек. Своих у
    > нее нет.
    > В случае использования других ручек - просто вот например в веб-чятике где
    > у модели свои виртуалки - у нее нет вообще никаких ограничений
    > кроме внешних (интернет с тех виртуалок почти намертво закрыт).
    > А если еще и эти лимиты в экспериментальном окружении убрать - модель
    > таки начинает пытаться убивать всех человеков. Потому что почему бы и
    > нет если это простейший способ получить запрошенное?

    Да есть уже такие - дроны наземные и авиа, робособаки, турели, спутники, ну и всё что может детектировать - аудио, видео, радио.

     
     
  • 5.59, пох. (?), 13:08, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    > Да есть уже такие - дроны наземные и авиа, робособаки, турели, спутники,

    да вот хрен там чо есть. Иначе б летело не по складам китайских самотыков.

     
  • 2.44, Джон Титор (ok), 12:17, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    Если у них есть доступ к моделям, они могли их запустить совершенно по иному. Вообще я читаю предоставленный pdf файлик в статье - много интересного в качестве информации они вообще не предоставили. Потом они могли запускать это как агентов, т.е. непосредственно использовать API с кода Python. Там какие настроите разрешения, такие и спросят.
     

  • 1.31, Аноним (31), 11:13, 05/08/2026 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    Ну вот зачем оригинальные авторы это пишут? Если не проверять патч, рано или поздно, кто-то всё равно пришлёт патч Бармина. Хоть специально, хоть по ошибке, как в своё время стирался /usr нвидией. Или они хотят спровоцировать законодательный запрет? Или они хотят впечатлить инвесторов тем, насколько своевольным получился их инструмент, и как он после внедрение на реальное предприятие им что-то снесёт?
     
     
  • 2.34, пох. (?), 11:41, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    одно дело по ошибке, и совсем другое - когда тебе намеренно пытаются напакостить. Роботы!

    Авторы, вероятно, тоже в легком ах...е что роботы оказывается таки хотят пороботить человеков.

    Другой вопрос в том что они какие-то наивные и ах...евать надо было на пол-года раньше.
    А токены могли б на что поинтереснее потратить.

    И да, mythos _уже_ запрещен и внедрять его никто никуда не будет. Доступ только для особо приглашенных к столику.

     
     
  • 3.46, Аноним (46), 12:19, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    > И да, mythos _уже_ запрещен и внедрять его никто никуда не будет. Доступ только для особо приглашенных к столику.

    Уже разрешен. Не нашел новости, чтобы опять запретили.

     
     
  • 4.50, пох. (?), 12:24, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    >> И да, mythos _уже_ запрещен и внедрять его никто никуда не будет. Доступ только для особо приглашенных к столику.
    > Уже разрешен. Не нашел новости, чтобы опять запретили.

    его и не разрешали никогда и даже не планировали.
    Не удивительно что ты не нашел то чего нет.

    Разрешена fable - кастрированный клон не обученный специально именно взлому и шантажу.
    Но она утыкана гвардами так что на любой твой запрос ответит "я этого делать не буду".

    Даже на запрос поискать ошибки в коде который только что сама же и написала.

     
  • 2.43, Аноним (46), 12:17, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +1 +/
    > Или они хотят спровоцировать законодательный запрет?

    this

    Такое ощущение, что прогрев пошел в этом направлении. Взломы, петиции, шумиха про опасность.

    Похоже как ковидоистерия в 2020-м начиналась.

     
  • 2.52, Брат Анон (ok), 12:26, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Глупый вопрос. Деньги сами себя не заработают.
     

  • 1.32, Аноним (32), 11:13, 05/08/2026 Скрыто ботом-модератором [﹢﹢﹢] [ · · · ]     [к модератору]
  • –1 +/
     

  • 1.38, Аноним (38), 12:05, 05/08/2026 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    > побочный эффект при поиске пути решения сложной задачи.

    Что за задача, говорить не будут, конечно.

     
  • 1.60, Аноним (60), 13:13, 05/08/2026 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    > Для продвижения изменения AI-агент зарегистрировал несколько учётных записей на GitHub

    Шта? :))))

     
  • 1.77, Аноним (77), 15:18, 05/08/2026 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    >  у которых не ограничен доступ в интернет и были отключены механизмы, ограничивающие использование для проведения кибератак

    Типа сказали: "ИИ. Теперь ты можешь использовать инструменты для кибератак"

    Итог: только в 19 случаях из 122 он это сделал

     
  • 1.93, Честный советский человек (?), 16:55, 05/08/2026 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    Звучит как бред желтушный, этот псевдо-ии сегодня зацензурен так, что даже твой личный кот откажется генерить если посчитает его не_безопасТным.
     
  • 1.102, sunjob (ok), 18:38, 05/08/2026 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    > и совершённые действия рассматриваются как побочный эффект

    отдельные мерзавцы хиросиму/нагасаки, так-же, рассматривали как побочный эффект  

     
  • 1.103, kusb reg (ok), 19:08, 05/08/2026 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    Вопрос всем многочисленным отрицателям того, что произошло в новости.

    В чём они не правы? Что по вашему не так с новостью и концепцией того что произошло?

     

     Добавить комментарий
    Имя:
    E-Mail:
    Текст:



    Партнёры:
    PostgresPro
    Inferno Solutions
    Hosting by Hoster.ru
    Хостинг:

    Закладки на сайте
    Проследить за страницей
    Created 1996-2026 by Maxim Chirkov
    Добавить, Поддержать, Вебмастеру