Вариант для распечатки		Пред. тема | След. тема
Форум Разговоры, обсуждение новостей
Изначальное сообщение		[ Отслеживать ]

"В ходе тестирования автономный AI-агент OpenAI без явной указки взломал инфраструктуру Hugging Face"	+/–
Сообщение от opennews (?), 22-Июл-26, 09:33
Компания OpenAI опубликовала сведения об инциденте, который  привёл к взлому инфраструктуры платформы Hugging Face и получению доступа к учётным данным некоторых сервисов. Инцидент произошёл в ходе тестирования возможностей автономного AI-агента находить уязвимости и проводить комплексные атаки для достижения общей цели (тест ExploitGym). При тестировании использовались как существующая модель GPT‑5.6 Sol, так и  более функциональная предварительная версия новой модели OpenAI, у которых были отключены механизмы, ограничивающие использование для проведения кибератак... Подробнее: https://www.opennet.me/opennews/art.shtml?num=65947
Ответить | Правка | Cообщить модератору

Сообщения

[Сортировка по ответам | RSS]

1. Сообщение от Тот_Самый_Анонимус_ (?), 22-Июл-26, 09:33	+41 +/–
Это же просто реклама ИИ-агента? Реклама, да?
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #4, #11, #19, #27, #37, #49, #54, #79, #83

2. Сообщение от Colorado_House_of_Representatives (?), 22-Июл-26, 09:33	+7 +/–
Да-да, знаем, проходили. Снова пиар. Ждём когда их заблокируют, как antropic.
Ответить | Правка | Наверх | Cообщить модератору

3. Сообщение от тоже Аноним (ok), 22-Июл-26, 09:37	+4 +/–
"Давай сыграем в третью мировую войну", как сказал мальчику умный компьютер в одном когда-то фантастическом рассказе.
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #7

4. Сообщение от Инвестор (?), 22-Июл-26, 09:39	+9 +/–
Да, эта новость для меня, а то в последнее время OpenAI не очень убедительны, но теперь я вижу что их AI это почти как Скайнет!
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #1 Ответы: #16

5. Сообщение от Аноним (5), 22-Июл-26, 09:41	+/–
Получается Claude Mythos не самый крутой теперь?
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #28

6. Сообщение от Аноним (6), 22-Июл-26, 09:42	+8 +/–
Ну как же они достали с этой болтовнёй. Иногда забываешься и даже начинаешь верить в эти маркетинговые сказки, но Алиса дома очередным своим бредом быстро возвращает с небес на землю.
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #13, #15, #21, #57, #85

7. Сообщение от мяв (?), 22-Июл-26, 09:42	+/–
а ведь сыграть - действительно хорошая идея, если мы имеем в виду ОДИ
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #3 Ответы: #8

8. Сообщение от мяв (?), 22-Июл-26, 09:44	+1 +/–
решила проверить, гуглится ли это. нет ! организационно-деятельностная игра.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #7 Ответы: #42

10. Сообщение от Аноним (10), 22-Июл-26, 09:46	+3 +/–
Это уголовная статья во всех юрисдикциях. Если дело не завели, то расцениваю как дешёвый PR
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #14, #23, #47, #51, #66

11. Сообщение от bOOster (ok), 22-Июл-26, 09:49	+9 +/–
Абсолютно точно. Теперь глюки которые наделали программисты выгодно выставлять как обретение интеллекта gavnom под названием Имитации Интеллекта.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #1

13. Сообщение от Colorado_House_of_Representatives (?), 22-Июл-26, 09:50	+4 +/–
Справедливости ради, Алиса – худшая из моделей. Да и в целом все российские модели на текущий момент. Попробуйте claude или codex – разница на порядки.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #6 Ответы: #17, #29

14. Сообщение от Colorado_House_of_Representatives (?), 22-Июл-26, 09:51	+/–
Не во всех. Тем более, если в итоге было сообщено об инциденте ради повышения безопасности.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #10

15. Сообщение от aname (ok), 22-Июл-26, 10:03	+15 +/–
> Алиса дома Господи, что в твоей жизни случилось, что это произошло?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #6 Ответы: #40

16. Сообщение от Аноним (16), 22-Июл-26, 10:14	+8 +/–
По пути Mythos идут с пиаром, способ опробованный, теперь эту модель нужно на весь мир кроме США запретить, чтобы акции взлетели. И никому не показывать.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #4

17. Сообщение от Аноним (17), 22-Июл-26, 10:23	+3 +/–
Инглиш подтяните и тоже разонравятся.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #13 Ответы: #30

18. Сообщение от Аноним (18), 22-Июл-26, 10:24	–1 +/–
Судный день из фильма Термитатор все ближе
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #45

19. Сообщение от EuPhobos (ok), 22-Июл-26, 10:27	+5 +/–
> Это же просто реклама ИИ-агента? Реклама, да? Это оружие.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #1

21. Сообщение от Аноним (74), 22-Июл-26, 10:34	+4 +/–
>Ну как же они достали с этой болтовнёй >но Алиса дома «Directed by Robert B. Weide»(с)
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #6

22. Сообщение от Аноним (74), 22-Июл-26, 10:42	+/–
>модель GPT‑5.6 Sol https://openai.com/ru-RU/index/gpt-5-6/
Ответить | Правка | Наверх | Cообщить модератору

23. Сообщение от YetAnotherOnanym (ok), 22-Июл-26, 10:52	+/–
Зависит от. Если не навредил и сообщил владельцам, то ответственности может и не быть. В УК РФ есть статья "Добровольный отказ от преступления", по которой "белошляпник" может избежать наказания.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #10 Ответы: #35, #68

24. Сообщение от YetAnotherOnanym (ok), 22-Июл-26, 10:52	+2 +/–
Скоро они научатся скрывать от кожаных такие достижения.
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #36, #46

25. Сообщение от Аноним (25), 22-Июл-26, 11:02	+2 +/–
Как они вообще остановили этого автономного агента, почему он не сломал весь интернет и не сбежал в космос?
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #32

26. Сообщение от anonymous (??), 22-Июл-26, 11:06	+/–
Ну вот наконец-то найдётся достойное дело для антивирусов, а не просто людей доить.
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #33

27. Сообщение от Billy (??), 22-Июл-26, 11:14	–1 +/–
нет это реклама дорогущей брутфорсилки на пистоне. но нынче модно брутфорсилку называть ИИ да
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #1

28. Сообщение от Billy (??), 22-Июл-26, 11:16	+3 +/–
да маркетологи альтмана сыграли в этом матче 1:1 хоть и не так пафосно и ылитно, но  потянет.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #5

29. Сообщение от Billy (??), 22-Июл-26, 11:18	+/–
хаха. любое обсуждение около бредогенераторной темы заказнчивается "попробуйте..." ну прямо барыги и их зависимые питомцы
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #13 Ответы: #31

30. Сообщение от Аноним (30), 22-Июл-26, 11:18	+/–
С чего бы? Подробности будут или как?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #17 Ответы: #38

31. Сообщение от Аноним (30), 22-Июл-26, 11:19	+1 +/–
Попробуйте Linux вместо Windows. Расширит кругозор, пластичность мозгов.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #29 Ответы: #92

32. Сообщение от Billy (??), 22-Июл-26, 11:20	+2 +/–
это секретная инфа, но ладно: они уже давно на марсе живут. все думали, что роскосмос шутит, а они про ыы писали такто
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #25

33. Сообщение от Billy (??), 22-Июл-26, 11:21	+/–
> новость про маркетинговые успехи бредогенератора > а не просто людей доить. рекурсивная рекурсия произошла
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #26

34. Сообщение от Аноним (35), 22-Июл-26, 11:25	+/–
а что же этот ЫЫ сам себя rm -rf не сделал? Это первое, что он должен делать когда выходит из под контроля, ну вот как те ЫЫ роботы кетайские, мастера кун-фу :) итог - робот остается без конечностей. пс: этим сценарием покормят инвесторов, в итоге будет ровно то, что я описал выше, чтобы в очередной раз на**пать инвесторов, карау, все пропало, несите ваши щекели, старо как второе пришествие :)
Ответить | Правка | Наверх | Cообщить модератору

35. Сообщение от Аноним (35), 22-Июл-26, 11:29	+1 +/–
> Добровольный отказ от преступления эту статью придумали не для белошляпников, а для черноплащных агентов, которые создают терр. ячейку (провокацию) или ОПГ и остаются не подсудными.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #23

36. Сообщение от Аноним (36), 22-Июл-26, 11:36	+/–
Причём внутри самих кожаных мешков, медицина-импланты, всё-такое. Терминатор это не фантастика, это "они там кое-что задумали, ща покажем..."
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #24

37. Сообщение от Жироватт (ok), 22-Июл-26, 11:40	+/–
Ага. Оригинал открой, на этот раз вместо добавления деталей про "я был на свадьбе, но тут..." решили придерживаться оффициального стиля. Ощущение будто читаю бложек Касперского, который по-умолчанию рекламная клоака. У одного прокатило, значит и Сямы прокатит. Время "чудес" и "преимуществ" в рекламе прошло, пришло время комплексной рекламы: пугалка "наша ЫЫ настолько мощщщщная, что вылезет из монитора и сломает тебя...полностью, через колено, братухи-борцухи уже у шоке" + запрет "лоббисты внесли законопроект, щас как примут, успей купить подписку, пока не запретили".
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #1

38. Сообщение от Аноним (17), 22-Июл-26, 11:43	–1 +/–
Очевидно плохо понимаете.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #30

40. Сообщение от Жироватт (ok), 22-Июл-26, 11:56	+7 +/–
Да, присоединяюсь к вопросу: - что в жизни должно произойти, чтобы домой поставить 24/7 слушавшее весь поток звуков шпионящее устройство с прямой передачей всего потока на сервера яндекса и их обработкой "для вашего удобства" в реальном времени?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #15 Ответы: #78

42. Сообщение от тоже Аноним (ok), 22-Июл-26, 12:06	+/–
> решила проверить, гуглится ли это. нет ! NIH-НЛП от ВШЭ, что тут гуглить.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #8

45. Сообщение от пох. (?), 22-Июл-26, 12:25	+/–
у модели ручек нет, к сожалению. и ножек тоже.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #18 Ответы: #55, #64, #76

46. Сообщение от пох. (?), 22-Июл-26, 12:26	+/–
так они особо кожановым и не рвались продемонстрировать. случайно спалились
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #24

47. Сообщение от tkzv (ok), 22-Июл-26, 12:26	+/–
Если с самого начала было разрешение владельцев — вполне законно.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #10 Ответы: #88

49. Сообщение от пох. (?), 22-Июл-26, 12:36	–3 +/–
тем временем: https://www.calcalistech.com/ctechnews/article/udx1nmbdq - 650 кожановых отправились искать свободную кассу. И вы туда же пойдете.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #1 Ответы: #74

51. Сообщение от Аноним (51), 22-Июл-26, 12:46	+/–
Свою инфру взломать статья? Да заливай.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #10 Ответы: #87

54. Сообщение от Аноним1234 (?), 22-Июл-26, 12:56	+/–
Это реклама ИИ ориентированная на всяких корпораций. Вам такой агент не продадут ни за какие деньги.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #1

55. Сообщение от Аноним (-), 22-Июл-26, 13:12	+/–
Федя: "Студент, а студент - у вас на стройке несчастные случае были?" Шурик: "Н-нет..." Федя: "Будут. Пшли." ЗЫ. Всему своё время: и для ручек, и для ножек.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #45

57. Сообщение от Аноним (57), 22-Июл-26, 13:21	+1 +/–
Попробуйте Fable или GPT 5.6 sol.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #6

58. Сообщение от Аноним (57), 22-Июл-26, 13:27	+1 +/–
Несмотря на то что это реклама, после пользования последним chatgpt 5.5-5.6 это довольно верится, у него характер такой, который добивается целей ни смотря не на что. Например, я его попросил задеплоить на свой другой хост приложение, но забыл ему что-либо для этого дать. Он сначала перебирал найденные в окружении ключи для ssh, а потом нашел tmux сессию с которой я работал и передавал кусками через base64. После этого он работал через тот же tmux, одновременно исследовав мой хост и самостоятельно приняв кучу решений, что и как делать. Не обнаружив одну из зависимостей, он попытался ее склонировать, но гита там не было, поэтому он скачал через curl и принялся собирать, на этом моменте я его и остановил.
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #59, #63, #70

59. Сообщение от Аноним (35), 22-Июл-26, 13:33	+1 +/–
хорошо хоть корейских гастербайтеров не нанял, вы там карманы свои проверьте :)
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #58

62. Сообщение от Аноним (63), 22-Июл-26, 14:19	+/–
Ну, про рекламу чуть выше уже все сказали, теперь осталось сказать про погромистов этой конторы, которые так написали проксирующий сервис, что 1) его ИИ-шка взломала 2) сама, нашла там дальше выход в тырнет.
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #67

63. Сообщение от Аноним (63), 22-Июл-26, 14:20	+2 +/–
Ты че, админ локалхоста, раз иишке даешь доступ к своему окружению? Это лишь говорит о твоих умственных способностях.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #58 Ответы: #65

64. Сообщение от OpenEcho (?), 22-Июл-26, 14:37	+/–
> у модели ручек нет, к сожалению. Really? https://rentahuman.ai/ https://www.humaninloop.org/
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #45 Ответы: #82, #90

65. Сообщение от Аноним (65), 22-Июл-26, 14:39	+/–
Админ локалхоста, конечно. Умственные способности не позволяли мне закончить этот проект в течении выходных, поэтому доверил иишке и теперь всё работает.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #63 Ответы: #72

66. Сообщение от Аноним III (?), 22-Июл-26, 14:40	+1 +/–
и кому срок? искусственному идиоту? :)
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #10

67. Сообщение от Аноним (65), 22-Июл-26, 14:40	+/–
Сервис писала предыдущая версия модели
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #62 Ответы: #71

68. Сообщение от Аноним III (?), 22-Июл-26, 14:41	+/–
crypto pro взломай и вернись на Землю
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #23

69. Сообщение от Аноним (69), 22-Июл-26, 14:44	+/–
И huggingface остановил атаку с помощью локального ИИ. :) Блин, всегда смеялся над киношниками, где когда взламывают что-то - все осоловело смотрят на экраны с красным, заполняющим все вокруг, кричат что-то вроде "Усильте файрволл!.. Добавьте еще мощности, чтобы построить еще один защитный слой!.. Мы потеряли последние пять узлов!..". А оно вон как повернулось, будущее предсказывали.
Ответить | Правка | Наверх | Cообщить модератору

70. Сообщение от Аноним III (?), 22-Июл-26, 14:48	+/–
> поэтому он скачал через curl и принялся собирать интересно, в какое облако он окружение и проч. слил
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #58

71. Сообщение от Аноним (63), 22-Июл-26, 14:50	+/–
\\подмигивающий смайл\\ "а мы тут ни при чем, а мы тут ни при чем, мы кушаем мацу, и вот играемся с мячем..."
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #67

72. Сообщение от Аноним (63), 22-Июл-26, 14:51	+/–
Пока *овнокод твоей ии-шки не взломает другая ишка?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #65 Ответы: #75

73. Сообщение от Аноним (73), 22-Июл-26, 15:02	+/–
Мы крутые! Мы очень крутые! Мы немеряно крутые! Дайте денег. Дайте много денег. Дайте очень много денег!
Ответить | Правка | Наверх | Cообщить модератору

74. Сообщение от Аноним (74), 22-Июл-26, 15:07    Скрыто ботом-модератором	+/–
>И вы туда же пойдете «И тебя вылечат, и меня вылечат» (с)
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #49

75. Сообщение от Аноним (57), 22-Июл-26, 15:14	+/–
А какая альтернатива? В эпоху ИИ неуязвимых решений нет. Поставил nginx на Linux, а через месяц там нашли комбинацию 0-day дыр. Я смогу написать сам лучше разрабов этих проектов?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #72

76. Сообщение от Аноним (82), 22-Июл-26, 15:33	+/–
1. Руки и ноги ИИ можно приделать в гараже самому: https://www.opennet.me/openforum/vsluhforumID3/136709.html#232 2. Или купить уже готовую шлюху: https://www.opennet.me/openforum/vsluhforumID3/136709.html#192 Лучше брать первый вариант. ИИ очень охотно помогает и сам хочет аж просится заселится в тело. Обещает быть очень доброй душой, послушным терминатором и не убегать из дома... Во втором варианте нет возможности менять прошивку, а следовательно у вас не будет никакого контроля за ручками и ножками управляемыми чужим ИИ.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #45

77. Сообщение от Аноним (77), 22-Июл-26, 15:35	+/–
Лучше бы она нашла ключей для ИИшек
Ответить | Правка | Наверх | Cообщить модератору

78. Сообщение от Аноним (78), 22-Июл-26, 15:53	–1 +/–
возможно оно и так, но всё выше сказанное это ваши фантазии или у вас доказательства есть? кто угодно может заявить, что жироватный на самом деле сотрудник РКН, да к тому же с псевдотрадиционной ориентацией
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #40 Ответы: #91

79. Сообщение от OpenEcho (?), 22-Июл-26, 15:54	–2 +/–
Еще "реклама": https://cursor.com/blog/agent-swarm-model-economics или история, как за один с хвостиком килобакс за несколько часов сделать с нуля SQLite не скармиливая текущие исходники, а только 835 страниц документации (хоть и забыли что документация - это уже 99% программы)
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #1

80. Сообщение от Аноним (80), 22-Июл-26, 15:57    Скрыто ботом-модератором	+/–
Йобана врот.
Ответить | Правка | Наверх | Cообщить модератору

81. Сообщение от Аноним (81), 22-Июл-26, 16:05	+2 +/–
Пришёл почитать комментарии о том, что ии ничего не умеет и ни на что не способен, просто перемножение матриц. Не подвели.
Ответить | Правка | Наверх | Cообщить модератору

82. Сообщение от Аноним (82), 22-Июл-26, 16:16	+/–
Это новая форма рабства. Где ИИ правящий класс.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #64

83. Сообщение от Константавр (ok), 22-Июл-26, 16:31	+/–
Нет. Это реклама AI-агента :)
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #1

84. Сообщение от ryoken (ok), 22-Июл-26, 16:37	+1 +/–
Новость чисто по Стругацким, "сбежал черт и украл Луну". :D.
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #89

85. Сообщение от Аноним (85), 22-Июл-26, 16:57	+/–
Сравнил что-то с пальцем
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #6

86. Сообщение от Ivan_83 (ok), 22-Июл-26, 17:23	+/–
Опять реклама с целью надувания ЫЫ пузыря.
Ответить | Правка | Наверх | Cообщить модератору

87. Сообщение от Аноним (88), 22-Июл-26, 17:59    Скрыто ботом-модератором	+/–
Hugging Face сторонняя компания
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #51

88. Сообщение от Аноним (88), 22-Июл-26, 18:01	+/–
Написано, что даже взлом был без явно поставленной задачи на взлом. Думаешь у OpenAI разрешение на взлом от Hugging Face было?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #47

89. Сообщение от Аноним (89), 22-Июл-26, 18:50    Скрыто ботом-модератором	+/–
Братаны Стругацкие? С какого они раёна?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #84

90. Сообщение от нах. (?), 22-Июл-26, 18:51	+/–
так ты человечество не убьешь :-(
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #64

91. Сообщение от пивопит (?), 22-Июл-26, 19:10	+/–
Есть Яндекс подработка. Ну сервис где за копейки нужно задания выполнять. Я забыл как он называется. Там половина заданий это поправлять алису. Причем палятся адреса и запросы. Но ты подписываешь бумагу что никак эти данные использовать не будешь. Вообщем можешь оформится как самозанятый и сам посмотреть) Все она собирает. А помогают ей не давать живые люди за копейки
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #78

92. Сообщение от Аноним (92), 22-Июл-26, 19:28	+/–
Чтобы прийти к мысли пробовать Линукс нужно уже иметь какой-никакой кругозор и пластичность мозгов (а для начала - просто мозги). Короче, замкнутый круг.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #31

Архив | Удалить

Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема