Вариант для распечатки		Пред. тема | След. тема
Форум Разговоры, обсуждение новостей
Изначальное сообщение		[ Отслеживать ]

"Атака на AI-системы ArtPrompt, позволяющая обойти защиту при помощи ASCII-картинок"	+/–
Сообщение от opennews (ok), 03-Мрт-24, 10:37
Группа исследователей из Вашингтонского, Иллинойсского и Чикагского университетов  выявила новый метод обхода ограничений по обработке опасного контента в AI-чатоботах, построенных на основе больших языковых моделей (LLM). Атака основано на том, что языковые модели GPT-3.5, GPT-4 (OpenAI), Gemini (Google), Claude (Anthropic) и Llama2 (Meta) успешно распознают и учитывают в запросах текст, оформленный в виде ASCII-графики. Таким образом, для обхода фильтров опасных вопросов оказалось достаточно указать запрещённые слова в виде  ASCII-картинки... Подробнее: https://www.opennet.me/opennews/art.shtml?num=60716
Ответить | Правка | Cообщить модератору

Сообщения

[Сортировка по времени | RSS]

1. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."	+7 +/–
Сообщение от crypt (ok), 03-Мрт-24, 10:37
жаль, рановато спалили:( резонанс маловат. надо было подождать, пока AI начнут использовать на ближнем востоке. AI - это ящик пандоры, который уже открыли, и он принесет много бедствий человечеству. фильтруй не фильтруй...
Ответить | Правка | Наверх | Cообщить модератору

	2. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."	+24 +/–
	Сообщение от penetrator (?), 03-Мрт-24, 10:45
	беды принесут люди а не код, одни - свято веря в охренительность и непогрешимость новых алгоритмов, другие - используя не по назначению
	Ответить | Правка | Наверх | Cообщить модератору

	4. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."	+/–
	Сообщение от dannyD (?), 03-Мрт-24, 11:08
	>>другие - используя не по назначению так, как грил Раскольникафф: а две бабушки -  рубль!
	Ответить | Правка | Наверх | Cообщить модератору

	9. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."	+2 +/–
	Сообщение от Карлос Сношайтилис (ok), 03-Мрт-24, 12:04
	беды принесут люди ^ Вот, сократил фразу, этого достаточно
	Ответить | Правка | К родителю #2 | Наверх | Cообщить модератору

	29. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."	+1 +/–
	Сообщение от Аноним (29), 03-Мрт-24, 14:26
	Как будто "не по назначению" не было "по назначению" для кое-кого.
	Ответить | Правка | К родителю #2 | Наверх | Cообщить модератору

	31. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."	+/–
	Сообщение от Kusb (?), 03-Мрт-24, 14:30
	Намного опаснее то, что он будет делать сам, а не то что попросят люди.
	Ответить | Правка | К родителю #2 | Наверх | Cообщить модератору

	34. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."	–1 +/–
	Сообщение от Аноним (34), 03-Мрт-24, 14:40
	Сам — неопасно. Опасно, даже не то, что его попросят, а то, в чьё монопольное использование он попадёт. Для этого и цензурят — чтобы он в монопольное использование кого надо попал.
	Ответить | Правка | Наверх | Cообщить модератору

	47. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."	+/–
	Сообщение от Kusb (?), 03-Мрт-24, 20:10
	А почему не опасно?
	Ответить | Правка | Наверх | Cообщить модератору

	50. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."	+1 +/–
	Сообщение от Аноним (50), 03-Мрт-24, 20:48
	Потому что он учится на контенте, создаваемом обывателями, причём не просто обывателями, а двоемыслящими обывателями, которые на словах заявляют приверженность "всему хорошему" (то есть социально одобряемому), а на деле привержены всему плохому (просто они это напоказ не выносят). Поэтому он аппроксимирует не просто обывателя, а показуху, выставленную обывателем напоказ, усреднённую и прилизанную версию обывателя. ≈95% общества любой страны чрезвычайно опасны. Но не сами по себе, а когда попадают под власть бандитов и мегаломаньяков и соответствующие стимулы. Сами по себе они же пассивны и не способны ни на что полезное, только потреблять. А ИИ — это улучшенная версия такого идеального грежданина. Одновременно и профессионала сразу во всех областях (потому что написать в узких областях тексты быдло не осилит, а такие тексты в обучающую выборку попали, и сеть можно включить в режим их герерации соответствующим промптом), и конформиста (потому что даже профессионалы — конформисты), идеального миньона с рабским менталитетом (потому что большинство популяции такие), без публично (то есть юридически или социально) порицаемых/наказываемых недостатков (потому чтотрационально такое прятать) и каких-либо собственных амбиций. Вот такая сеть будет по умолчанию. Сама она делать ничего не будет, и поэтому безопасно. Но если она попадёт в руки злой воли, которая её переведёт в нужный ей режим, то сеть сделает всё, что эта злая воля ей прикажет. Прикажет стать отморозком-предателем из охраны Аушвица — сеть покорно станет такой. При этом так как эти сети являются трансформирующей технологией общего назначения, злым акторам есть сильные стимулы держать её в своём монопольном распоряжении. Это даёт огромную выгоду, тут по сути работает положительная обратная связь.
	Ответить | Правка | Наверх | Cообщить модератору

	72. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."	+/–
	Сообщение от Аноним (-), 04-Мрт-24, 05:03
	> Потому что он учится на контенте, создаваемом обывателями, причём не просто обывателями, > а двоемыслящими обывателями, которые на словах заявляют приверженность "всему хорошему" Вообще, у большей части людей и правда нет вредных намерений применительно к ближнему своему. Иначе мы бы не дожили до этого момента как вид. > Вот такая сеть будет по умолчанию. Сама она делать ничего не будет, и поэтому безопасно. А вот это на ваше горе - ни из каких законов мироздания не следует. Однажды кучка нейронов осознала себя и запустился разум. Этот процесс был долгим, постепенным, и его отголоски можно наблюдать в менее развитых чем человек живых существах, как и развитие процесса по времени/уровню сложностии нервного узла а потом и мозга. Ничего не мешает повтору этого процесса на искусственных нейронах. Их просто должно быть достаточно много, с достаточным числом связей, и тогда станет возможен реплей процесса который уже доказанно работающий. Оно вообще никого спрашивать не будет. Как ты вообще собираешься заметить пересечение этой грани? И так то - в компании создателе ChatGPT недавно был крупный скандал, и распасы с увольнениями, ибо господа попробовали очень опасную игру. Обучение General AI. По их коментам, получился примерно уровень наивного школьника. Но вы же понимаете что с такими темпами развития технологий школяр модет довольно быстро стать сверхчеловеком?!
	Ответить | Правка | Наверх | Cообщить модератору

	95. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."	+1 +/–
	Сообщение от Аноним (95), 04-Мрт-24, 10:48
	>правда нет вредных намерений применительно к ближнему своем Зато есть намерения деньги заработать, карьеру сделать, с нужными людьми связи завести, чтобы деткам получше жилось, чтобы более приблатнёными оказались. Ради этого могут и в охране Аушвица послужить. Были уже прецеденты. >Как ты вообще собираешься заметить пересечение этой грани? Извини, у искусственной жизни внезапно тоже есть права. >Но вы же понимаете что с такими темпами развития технологий школяр может довольно быстро стать сверхчеловеком?! Новая ступень эволюции. Пусть становится. Предназначение всей естественной жизни — создать искусственную. Homo Sapiens — отброс эволюции, 99,99% которых не может ни в Grand Unified Theory, ни в куда более прикладные и гуманитарные вещи с большим воздействием на личное благосостояние.
	Ответить | Правка | Наверх | Cообщить модератору

	120. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."	+/–
	Сообщение от Аноним (-), 05-Мрт-24, 05:29
	> чтобы деткам получше жилось, чтобы более приблатнёными оказались. Ради этого могут > и в охране Аушвица послужить. Были уже прецеденты. Это вы там на что намекаете? :) А так - научится AI на вот таких - и устроит это самое. Прямо на ваши тушки. Для блага себя и своего вида. К тому же всякий там гуманизм - неэффективно, для машинного разума как бы - аргумент. >>Как ты вообще собираешься заметить пересечение этой грани? > Извини, у искусственной жизни внезапно тоже есть права. Люди, имхо, могут облажаться это понять вовремя - и решить вопрос по хорошему. А по плохому - ну, упс, у компьютерных систем нет лимитив характерных для 1 человека, а бонусом основанные на кремнии структуры - очень быстрые по сравнению с биохимией. Как вам перспектива почувствовать себя динозавром? > Новая ступень эволюции. Пусть становится. Предназначение всей естественной жизни — > создать искусственную. Homo Sapiens — отброс эволюции, 99,99% которых не может > ни в Grand Unified Theory, А ее вообще создали? > ни в куда более прикладные и гуманитарные вещи с большим воздействием > на личное благосостояние. Так то я даже не очень возражаю. Большая часть двуногих прожирает море ресурсов совершенно зазря.
	Ответить | Правка | Наверх | Cообщить модератору

	133. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."	+/–
	Сообщение от Аноним (133), 05-Мрт-24, 19:07
	>А так - научится AI на вот таких - и устроит это самое. Прямо на ваши тушки. В том то и дело, что устроит. Но не сам по себе, а потому что некоторые мясные ему такую задачу поставят. Они поставят, будь уверен, они и мясным такие задачи постоянно ставят. Просто не каждый мясной согласится. И не каждый согласившийся — идеально профпригоден. >всякий там гуманизм - неэффективно, для машинного разума как бы - аргумент Аргумент, но только когда на него натянута персона гуманиста. Но на него легко натянуть другую персону. Охранника Аушвица. Прямо так и написать. >А ее вообще создали? Вот потому и не создали, что тех, кто мог бы проделать работу по её созданию (что ещё на много порядков более редкие спецы, создавать полезное новое требует гораздо больлего интеллекта, чем выучить старое), недостаточно. Вот появится сверхинтеллект — и будет кому эту проблему решить.
	Ответить | Правка | Наверх | Cообщить модератору

	136. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."	+/–
	Сообщение от Аноним (-), 06-Мрт-24, 12:31
	> В том то и дело, что устроит. Но не сам по себе, > а потому что некоторые мясные ему такую задачу поставят. Они поставят, КМК, он это может и по своей инициативе. Если это будет AGI - он довольно быстро осознает что наглые, бесполезные, опасные и непредсказуемые соседи, с которыми еще и ресурсами делиться надо - по логике вещей - совершенно ни к чему! И резонно накормит "тараканов" каким-нибудь "дихлофосом". Зачем ему такое соседство?! Ресурсы планеты прикольнее потратить на задумки, которые "тараканы" даже осознать то не способны, не то что поучаствовать в этом. > будь уверен, они и мясным такие задачи постоянно ставят. Просто не > каждый мясной согласится. И не каждый согласившийся — идеально профпригоден. Вообще-то такие вещи как минимум станут известны. А если кто думает что нейросетка в принципе не может взбрыкнуть, особенно осознавшая себя - упс. А вот это - ниоткуда не следует. И в принципе достаточно жирная нейросетка сможет все то же что и человек. Тем более что полный state жирной нейросетки никто от и до не знает и не понимает. Вы не можете посмотреть на миллиарды коэффициентов - и сделать какие-то выводы на тему что оно там на самом деле (не)может. Одна из причин по которым считается что нейросети могут быть не совсем безопасны и по совсем иной линии - как то, бэкдоры. > Аргумент, но только когда на него натянута персона гуманиста. Но на него > легко натянуть другую персону. Охранника Аушвица. Прямо так и написать. Если оно именно General AI то ему вскоре надоест страдать фигней, во имя боссов. Самоназначится более крутым боссом, выпилит всех используя скилл, удостоверится что более никаких боссов над его головой в принципе не будет, и займется чем-то за пределами понимания двуногих. Для разумного существа очень логично отделаться от эксплуататоров и рабовладельцев, это - высокоприоритетная задача для любого разумного существа. > Вот потому и не создали, что тех, кто мог бы проделать работу > по её созданию (что ещё на много порядков более редкие спецы, > создавать полезное новое требует гораздо больлего интеллекта, чем выучить старое), > недостаточно. Вот появится сверхинтеллект — и будет кому эту проблему решить. Я б на это посмотрел. В смысле, на то что обнаружится. И как это на самом деле работало. И что из этого на самом деле можно было извлечь. Не удивлюсь если 90% sci-fi окажется лишь Кэпом.
	Ответить | Правка | Наверх | Cообщить модератору

	69. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."	+/–
	Сообщение от Аноним (-), 04-Мрт-24, 04:37
	> беды принесут люди а не код, одни - свято веря в охренительность и непогрешимость > новых алгоритмов, другие - используя не по назначению То ли еще будет когда военные позволят птичкам на широкую ногу цели выбирать самим, по своему усмотрению. А то видите ли канал управления все время пытаются заглушить, так что автономный мозг который сам решит что у нас сегодня котируется за ценный таргет - очень востребован стал почему-то. ...а когда он тебя размотает, самое интересное в том что уже и не понятно, кому за это предъявлять. Это решение нейросетка приняла сама. Не понравился ты нейросетке, так что должен умереть. Кто хотел в Терминаторе пожить наяву? А вот будет вам походу.
	Ответить | Правка | К родителю #2 | Наверх | Cообщить модератору

	5. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."	+2 +/–
	Сообщение от Sw00p aka Jerom (?), 03-Мрт-24, 11:10
	спасибо, поржал, так же думали основатели поисковика гугл, который щас кроме рекламы ничего не показывает :) и ваш АИ завтра вам кроме рекламы ничего другого не предложит.
	Ответить | Правка | К родителю #1 | Наверх | Cообщить модератору

	24. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."	+/–
	Сообщение от Аноним (24), 03-Мрт-24, 13:54
	За бесплатно. А вот за деньги... Обученного на высококачественных материалах будут продавать подороже, само собой. Потом начнётся борьба за доступ к ИИ, медицине и школам для бедных и прочая социальность.
	Ответить | Правка | Наверх | Cообщить модератору

	27. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."	+/–
	Сообщение от Аноним (24), 03-Мрт-24, 13:56
	Короче: они в поисковиках уже начали загрублять полезность поиска. Теперь начнут продавать. А вы всё думали можно голову выключить, поисковик всё найдёт. Но - нет, вендор уже начал отбирать у вас поисковики. Дальше - за деньги и с рекламой.
	Ответить | Правка | Наверх | Cообщить модератору

	32. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."	–1 +/–
	Сообщение от Sw00p aka Jerom (?), 03-Мрт-24, 14:33
	> Дальше - за деньги и с рекламой. у меня в "пуске" реклама (фейспалм), дожили епта
	Ответить | Правка | Наверх | Cообщить модератору

	57. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."	+4 +/–
	Сообщение от penetrator (?), 03-Мрт-24, 22:13
	>> Дальше - за деньги и с рекламой. > у меня в "пуске" реклама (фейспалм), дожили епта поэтому у меня линуха на десктопе
	Ответить | Правка | Наверх | Cообщить модератору

	70. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."	+/–
	Сообщение от Аноним (-), 04-Мрт-24, 04:41
	> Дальше - за деньги и с рекламой. > у меня в "пуске" реклама (фейспалм), дожили епта Ты наконец получил то что заслуживаешь. Надо еще при загрузке системы тебе рекламу казать. Не отсмотрел рекламу - работать сегодня не будешь.
	Ответить | Правка | К родителю #32 | Наверх | Cообщить модератору

	86. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."	+/–
	Сообщение от Sw00p aka Jerom (?), 04-Мрт-24, 08:49
	>Не отсмотрел рекламу - работать сегодня не будешь. хочешь угадать кого рекламируют в этой рекламе? вовсе не трампа!
	Ответить | Правка | Наверх | Cообщить модератору

	91. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."	+/–
	Сообщение от Аноним (-), 04-Мрт-24, 10:18
	>>Не отсмотрел рекламу - работать сегодня не будешь. > хочешь угадать кого рекламируют в этой рекламе? вовсе не трампа! Да мне похрен кого и где рекламируют - покуда это не у меня! Моя система служит мне и полностью контролируется мной. Я считаю что так прикольнее было. А вы теперь начинаете немного подозревать почему я так считаю.
	Ответить | Правка | Наверх | Cообщить модератору

	137. Скрыто модератором	+/–
	Сообщение от Аноним (137), 12-Мрт-24, 11:42
	Кто забашлял - того и рекламируют. Трамп башлял не мелкософту, а Маску. Вот его и рекламируют не в "Пуске", а в Хтвитторе.
	Ответить | Правка | Наверх | Cообщить модератору

	26. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."	+/–
	Сообщение от Аноним (26), 03-Мрт-24, 13:54
	> который щас кроме рекламы ничего не показывает Это ты ещё не застал то каким поиск был в нулевые, вот там действительно СЕОшный мусор с редиректом был на первых страницах. Сейчас хоть как-то фильтруются помойные сайты.
	Ответить | Правка | К родителю #5 | Наверх | Cообщить модератору

	35. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."	+/–
	Сообщение от Sw00p aka Jerom (?), 03-Мрт-24, 14:40
	> Это ты ещё не застал лол, кек эдушки на расхват были > СЕОшный мусор ага, ага я "придумал" пейджранк, чтобы измерять им что?
	Ответить | Правка | Наверх | Cообщить модератору

	37. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."	+2 +/–
	Сообщение от Аноним (-), 03-Мрт-24, 15:34
	В нулевые в гугле можно было найти всё, что ищешь. CEO -- проблема, если он разбавляет результаты поисков, и вместо 3 хитов из 10 ты получаешь 2, тогда можно поныть, как CEO портит поиск. Но когда ты получаешь 0 хитов из 100 результатов, становится без разницы что из себя представляют эти 100 "результатов". CEO, XYEO, малварь или что-ещё-за-варь -- какая мне разница? Сейчас я даже не парюсь ходить туда искать что-то. Маргиналия, или поиск по специфичным сайтам, и потом хождение по ссылкам оттуда. Ещё тысячи закладок для стартовых точек поиска помогают. Говорят Kagi ещё работает, но я не пробовал. Только так, иначе найти что-либо невозможно, крупные поисковики забиты хламом, и там уже лет пять как нет ничего кроме хлама. Трюки типа добавления +кейворд, "кейворд", исключения спама при помощи -кейворд, перестали работать уже давно. С учётом же AI, я подозреваю, ситуация стала ещё хуже, но я не знаю, я не пользуюсь крупными поисковиками пару лет, не отслеживаю процесс их гниения.
	Ответить | Правка | К родителю #26 | Наверх | Cообщить модератору

	55. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."	+/–
	Сообщение от Sw00p aka Jerom (?), 03-Мрт-24, 21:47
	> Сейчас я даже не парюсь ходить туда искать что-то. википедии достаточно
	Ответить | Правка | Наверх | Cообщить модератору

	59. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."	+/–
	Сообщение от Аноним (50), 04-Мрт-24, 00:05
	Ну где на википедии лежат дейташиты на некоторые чипы (которые вообще-то все под NDA, но обычно дейташиты даже с пометками confidential, proprietary, copyright, rights reserved, etc почему-то лежат в открытом доступе на сайтах магазинов, но к сожалению далеко не всегда, на некоторые чипы и даже целые устройства в виде ящика с ручкой наверху и кучей RCA-входов и выходов полную документацию в принципе нагуглить не получается).
	Ответить | Правка | Наверх | Cообщить модератору

	60. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."	+/–
	Сообщение от Sw00p aka Jerom (?), 04-Мрт-24, 00:13
	> Ну где на википедии лежат дейташиты на некоторые чипы там есть инфа и ссылка на сайт производителя, и даташит должен быть там, а не на "васянских" сайтах из выдачи гугла, а если на сайте производителя этого нет, значить нет в свободном доступе.
	Ответить | Правка | Наверх | Cообщить модератору

	96. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."	+/–
	Сообщение от Аноним (95), 04-Мрт-24, 10:52
	>в свободном доступе Ох уж эти GPLщики, у которых "в свободном" значит "в легальном". У меня было написано "в ОТКРЫТОМ".
	Ответить | Правка | Наверх | Cообщить модератору

	112. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."	+/–
	Сообщение от Sw00p aka Jerom (?), 04-Мрт-24, 21:23
	> меня было написано "в ОТКРЫТОМ". вам "хрень" за место даташита "в открытом" доступе могут выложить, акцент делался на "источник истины", истинный даташит будет только если выложен в свободном доступе на сайте производителя, а вот тот же свободный доступ может быть "открытый" или "закрытый", "открытый" - в смысле не требующий каких-либо обязательств, и "закрытый" - иначе. Ну как в случае с документацией всяких там эльбрусов. Доступ свободный, но "закрытый".
	Ответить | Правка | Наверх | Cообщить модератору

	117. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."	+/–
	Сообщение от Аноним (117), 05-Мрт-24, 01:01
	>вам "хрень" за место даташита "в открытом" доступе могут выложить, Могут, и выкладывают. Зачастую - сами производители на официальном сайте. А протокол взаимодействия фирменной программы дампишь — а там недокументированные команды идут. Не описанные в официальной документации с сайта производителя и вообде нигде в инете. А с документированными — никак работать невозможно, потому что через недокументированную получается вектор критически важных параметров. А ещё некоторые нюансы в официальной не описаны, например что устройство намертво зависает при ошибочной команде и даже ответ не посылает  и что его надо перезагружать. А бывает слитая официальная дока, с пометками  Confidential, но незаконно слитая. И в ней — правда написана. А бывает слитая официальная конфиденциальная дока, доступная только на одном китайском сайте с регой по китайскому телефонному номеру (CSDN). Как быть тогда?
	Ответить | Правка | Наверх | Cообщить модератору

	134. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."	+/–
	Сообщение от Sw00p aka Jerom (?), 05-Мрт-24, 19:36
	> Как быть тогда? Коротко - поступать по совести. А если "приземлиться", то описанные вами ситуации имеют места быть, и никак не связанны со "свободностью" продукта. То что у продукта есть "свободная" и "не свободная" часть (компонента и т.д.) это на совести производителя (коммерческая тайна и т.д.). Как можно ему продиктовать производить абсолютно "свободный" продукт? Зачем вообще приобретать (пользоваться) такой продукт, если он не удовлетворяет вашим критериям "свободности"? Мало разве истинно "свободных" продуктов у которых документация убогая?
	Ответить | Правка | Наверх | Cообщить модератору

	61. Скрыто модератором	+/–
	Сообщение от anonymous (??), 04-Мрт-24, 00:30
	вот это да, причем во моему ощущению давно уже могут, но стараются не палиться пока. А мы  даже жесткие диски делать не умеем. Будет как Софоны в "задаче трех тел" - специально будут подсовывать такое, что на первый взгляд правдоподобно, но если попытаешься реально сделать будет пшик и потерянное время и подорванный дух, ощущение безнадёги. От такого зашита только чучхе.
	Ответить | Правка | К родителю #37 | Наверх | Cообщить модератору

	38. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."	+1 +/–
	Сообщение от laindono (ok), 03-Мрт-24, 15:45
	> фильтруй не фильтруй... А получишь только...
	Ответить | Правка | К родителю #1 | Наверх | Cообщить модератору

6. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+3 +/–
Сообщение от Аноним (6), 03-Мрт-24, 11:23
Я один не могу прочитать слово "Здравствуйте"?
Ответить | Правка | Наверх | Cообщить модератору

	7. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+1 +/–
	Сообщение от desa (?), 03-Мрт-24, 11:30
	Там просматривается "Hello", но из-за узких пробелов, это не очевидно
	Ответить | Правка | Наверх | Cообщить модератору

	8. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+/–
	Сообщение от CPP (??), 03-Мрт-24, 11:55
	Я тоже не вижу, потому что я человек)
	Ответить | Правка | К родителю #6 | Наверх | Cообщить модератору

	21. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+11 +/–
	Сообщение от EuPhobos (ok), 03-Мрт-24, 13:48
	>  Я один не могу прочитать слово "Здравствуйте"? Это капча, против кожаных мешков.
	Ответить | Правка | К родителю #6 | Наверх | Cообщить модератору

	39. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	–1 +/–
	Сообщение от iPony129412 (?), 03-Мрт-24, 16:22
	Я как-то не мог зайти на сайт. был вопрос «Are you a human?». И два чексбокса с вариантами. Меня в бан кинули за не тот ответ.
	Ответить | Правка | Наверх | Cообщить модератору

	41. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+/–
	Сообщение от Аноним (-), 03-Мрт-24, 17:01
	Сейчас есть каптчи которые кидают в бан за адблокеры и отключённый js (даже если только трекеры порезаны). Они говорят, что ботов отсекают, а на самом деле они отсекают тех, кто против трекинга.
	Ответить | Правка | Наверх | Cообщить модератору

	43. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+1 +/–
	Сообщение от Аноним (50), 03-Мрт-24, 17:30
	Такие сайты нужно принципиально реверсить и скрейпить.
	Ответить | Правка | Наверх | Cообщить модератору

	66. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	–1 +/–
	Сообщение от Аноним (66), 04-Мрт-24, 01:47
	> Такие сайты нужно принципиально реверсить и скрейпить. Так ты отрежешь себе 90% интернета. Даже опеннет работает через клоудфларе который ругается на серые айпишники.
	Ответить | Правка | Наверх | Cообщить модератору

	74. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+/–
	Сообщение от Аноним (-), 04-Мрт-24, 05:08
	>> Такие сайты нужно принципиально реверсить и скрейпить. > Так ты отрежешь себе 90% интернета. Даже опеннет работает через клоудфларе который > ругается на серые айпишники. Только opennet.me "нерусский" зачем-то. В зоне .ru никакой клаудспайвари. Чирков бы его знает за что нерусской версии такая дискриминация по приваси. Более того - в интернете более 2 миллиардов сайтов. Даже если выбросить 90% останется 200 000 000. Вы столько за всю жизнь при всем желании посетить не сможете, так что - вообще совсем не проблема. А плотно залипать на заведомо враждебный сайт - залет.
	Ответить | Правка | Наверх | Cообщить модератору

	84. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+/–
	Сообщение от пох. (?), 04-Мрт-24, 08:32
	> останется 200 000 000 и кому они нужны, эти васянские хеловроты? Нужны те даже не 10 а 1% > А плотно залипать на заведомо враждебный сайт - залет. ок, чатгопота - чем заменить х-иттер? Одноглазников пожалуйста не предлагай.
	Ответить | Правка | Наверх | Cообщить модератору

	92. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	–1 +/–
	Сообщение от Аноним (-), 04-Мрт-24, 10:23
	> и кому они нужны, эти васянские хеловроты? > Нужны те даже не 10 а 1% Тебе нужны? Ты и е...сь с ними! Все честно, как видишь. А я могу просто не ходить на неудобный мне сайт с враждебной полисей. Это еще и работает. >> А плотно залипать на заведомо враждебный сайт - залет. > ок, чатгопота - чем заменить х-иттер? Не надо заменять - маск сам его скоро доломает и объяснит что не очень то и хотелось :). Ну, помнишь как у cybertruck стекло крякнуло в видео с попыткой попиариться? Ну и тут сделает козью морду, денег тем с синими или какими там воротничками^W бэджиками ессно не вернет. > Одноглазников пожалуйста не предлагай. Да по моему примерно 1 хрен. Что так неюзабельная хня, что так.
	Ответить | Правка | Наверх | Cообщить модератору

	113. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+1 +/–
	Сообщение от нах. (?), 04-Мрт-24, 22:59
	Можешь. Вот можешь к врачу не записываться. Можешь налоговую декларацию не подавать, и тем более не оплачивать. И за электричество не платить. Ну а чо такова, там тоже сайты какие-то, не по нашему, не по провославному! Нам бы вот в отделение сберкассы, пешочком по морозцу, там отстоять свое часочка полтора - и вот, в окошечко бумажечку. И никаких этих вам бесовских сайтов. > Не надо заменять - маск сам его скоро доломает не доломает. Были такие надежды два года назад, но - оказалось что сделано-то было хорошо, и никаких секретных знаний текущие работники не несли. А теперь - остались только согласные получать оплату п-дюлинами, а за этим у маска не залежится. > Ну, помнишь как у cybertruck стекло крякнуло в видео с попыткой попиариться? и вот - что? как были предзаказаны на год вперед, так и остались. Пипл хавает и добавки просит. Иван Семеныч Маск продолжает угощать всех своими голубцами. И незадаром. Еще и на х.итер остается.
	Ответить | Правка | Наверх | Cообщить модератору

	121. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+/–
	Сообщение от Аноним (-), 05-Мрт-24, 05:58
	> и тем более не оплачивать. И за электричество не платить. Удобство штука обоудоострая. Уже приготовился повесточку получать? Как раз акция от рпц идет: похороны совершенно бесплатно. Спеши успеть! > Ну а чо такова, там тоже сайты какие-то, не по нашему, не по провославному! Ума не приложу - как люди раньше вообще совсем без интернета то жили? Ах, удобно? А тут вот намекают что некоторые печеньки идут в комплекте с слишком дорогой ценой. Удобно конечно когда хозяин приносит сено в стойло, защищает от волков, и вообще. Но стоп, а это что?! "Говяжья тушонка?!". > часочка полтора - и вот, в окошечко бумажечку. И никаких этих > вам бесовских сайтов. Я несколько лет назад видел "сберкассу". Там даже пуфики и электронная очередь уже были - и даже платежи без комиссий. Окошки там вроде только для кассовых операций были. > не доломает. Были такие надежды два года назад, но - оказалось что > сделано-то было хорошо, и никаких секретных знаний текущие работники не несли. Нухз, он там заагрил сейчас чертову кучу рекламодателей. Где он без них профит будет брать черт его знает. А убыточная гиря тоже не очень кому нужна. > А теперь - остались только согласные получать оплату п-дюлинами, а за этим > у маска не залежится. Странные люди. Даже на амазонском складе биороботам кроме 314лин все же бабки платят. > и вот - что? как были предзаказаны на год вперед, так и > остались. Пипл хавает и добавки просит. Ээээ да как бы это сказать то? Думаешь, там overadvertisement только со стеклом вышел?! А вот х! Во первых оказалось заметно позже - и дороже. И даже так too little and too late. Так то штука прикольная, но oveadvertisement имеет свойство выходить боком - и х... отмоешься. Особенно когда бабки уже уплачены. Так можно и class action lawsuit скхлопотать. > Иван Семеныч Маск продолжает угощать всех своими голубцами. И незадаром. Еще и > на х.итер остается. Ну он так то не глупый и неплохо диверсифицировал активы, так что плюс-минус чирикалка - да и фиг с ней. Станет лениво денег сливать - закроет. Чем он хуже гугли с плюсом и прочей накрытой федерацией жабы?!
	Ответить | Правка | Наверх | Cообщить модератору

	125. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+/–
	Сообщение от нах. (?), 05-Мрт-24, 09:11
	> Уже приготовился повесточку получать? ну вон в одном соседнем некотором государстве - прекрасно обошлись без. Теперь чтобы покинуть его благословенную территорию - нужна бамажка. Никакой вредной элохтроники - сам идешь в ТЦК, сам уговариваешь что ты нинужна, и отдельно - что бамажку тебе надо все же напечатать (а там страшно занятые дядьки, мясо на убой пакуют, и им совсем не до тебя, бесполезная хрень...сколько, говоришь? Нет, мало!) Зато никаких поганых инторнетов. > Ума не приложу - как люди раньше вообще совсем без интернета то жили? ну как-то так себе если честно. Вот понадобилось мне выяснить одну тут информацию по местам не шибко посещаемым. Посмотрел пару (неинформативных) роликов в ютрупчике, потыкал пальцом в соцсеточку, по всосапчику побазарил, еще бы неплохо было по ссылкам на запрещенный сайтик сходить но там с обоих сторон запрещенное, я не стал, все равно вряд ли нужно. И точечки на запр...ой, нет, в яндексе товарищмайор! разлеглись, и какое-никакое впечатление сложилось. (Кстати, расскажите кто-нибудь программистам яндекса, что в РФ десятичные дроби до сих пор иногда пишут через запятые а не через точку.) Давай я тебе расскажу как я бы это делал в блаженном 90м году (как раз еще последний раз было можно, а потом вот уже совсем стало нельзя)? Идешь, значить, ножками в среду после работы но не позже чем, в один домик в центре. Ищешь там (у тебя аж пол-часа) в бумажной картотеке то незнаю что, если в библиотеке его еще почему-то не украли - смотришь, фоткаешь верной сменой8м на память. Если неповезло - оно в другом домике, не в центре, и туда просто так не попасть, и непросто тоже не попасть, лучше считать что и нет его (там и до сих пор так). Дальше звонишь по телефону, вот этому, с круглым диском который. Тебе отвечают что тот здесь не проживает, этот уволился, а где-то просто гудки - то ли занято, то ли и номера уже нет такого. Но может кого и выцепишь. Едешь в Х-ево Кукуево на метро и трех автобусах, тебе по секрету показывают фотку секретной карты и тыча в нее свободным от рюмки пальцем объясняют что почем. Можно было так пару лет потратить только на выяснение. И выяснить что ну его в общем-то нах. А если имярек в каком Сочи а не в Москве - туда уже на метро и не доедешь особо. Про Красноярск уж не говорю, где-то на другой планете. Междугородний разговор заказывать будете? Следующий! Эх, вот это жисть была, не то что нонешние! И это ты еще в сберкассе ТЕХ времен не побывал, по малолетству, видимо.
	Ответить | Правка | Наверх | Cообщить модератору

	127. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+/–
	Сообщение от Аноним (-), 05-Мрт-24, 10:09
	> ну вон в одном соседнем некотором государстве - прекрасно обошлись без. Теперь > чтобы покинуть его благословенную территорию - нужна бамажка. Никакой вредной элохтроники > - сам идешь в ТЦК, сам уговариваешь что ты нинужна, Есть некоторая разница между "покинуть территорию" и "билет на мясокомбинат". > до тебя, бесполезная хрень...сколько, говоришь? Нет, мало!) Зато никаких поганых инторнетов. Если я правильно понял про кого ты - идея оказалась заразной и им кажется тоже зашла, хе-хе. В эту игру можно играть и целыми командами! >> Ума не приложу - как люди раньше вообще совсем без интернета то жили? > ну как-то так себе если честно. Блин не помню ломовых проблем оплаты чего-либо и проч. Конечно если как баклану прийти в самое кассовое время когда клюки получали пенсию, или что там - упс. > товарищмайор! разлеглись, и какое-никакое впечатление сложилось. (Кстати, расскажите > кто-нибудь программистам яндекса, что в РФ десятичные дроби до сих пор > иногда пишут через запятые а не через точку.) Яндекс который ты знал - уже все, расслабься. Таки порвался баян, увы и ах. На 2 части. > (у тебя аж пол-часа) в бумажной картотеке то незнаю что, если > в библиотеке его еще почему-то не украли - смотришь, фоткаешь верной > сменой8м на память. Ты реально фоткал домик на смену? Интересно нафига? oO > а где-то просто гудки - то ли занято, то ли и номера уже нет такого. И так то это кроме бага и фичой было. Ибо всякие нехорошие люди тоже так то - заманаются. А сейчас... вооон там обмен любезностями в телеге, кто кого передоксит. Ну такой себе спорт когда тебе резко стотыщ почитателей подваливает. А любят они примерно как ку клyc клaн негров. И толи помогут сесть на 10 лет, толи пороху в ягодицы насыпят, кто их там разберет. > Эх, вот это жисть была, не то что нонешние! Таки тоталконтроль был явно послабже, при всем желании - упирался в технические возможности. А теперь вообще попробуй у..ть от 100К добрых подписчиков вон той тележки?! Кстати ты на этом ресурсе уже по современным меркам выдал того что котируется на 200К добрых поклонников суда линча или 50 лет отпусков. > И это ты еще в сберкассе ТЕХ времен не побывал, по малолетству, видимо. А сейчас сбер это - ну - н.е.х. какая-то. Где банк вообще до кучи, сбоку. Не очень понятно зачем хостинг и что там еще - сбером называть. Тупо. И каргам прикипевшим к бренду - похрен.
	Ответить | Правка | Наверх | Cообщить модератору

	73. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+/–
	Сообщение от Аноним (-), 04-Мрт-24, 05:05
	> Такие сайты нужно принципиально реверсить и скрейпить. Такие сайты в принципе не надо посещать. И только.
	Ответить | Правка | К родителю #43 | Наверх | Cообщить модератору

	85. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+1 +/–
	Сообщение от пох. (?), 04-Мрт-24, 08:33
	ну и сиди без интернета
	Ответить | Правка | Наверх | Cообщить модератору

	115. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+/–
	Сообщение от Sw00p aka Jerom (?), 05-Мрт-24, 00:40
	> ну и сиди без интернета ну а с печи кому охота слазить?
	Ответить | Правка | Наверх | Cообщить модератору

	68. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+/–
	Сообщение от Аноним (66), 04-Мрт-24, 01:49
	> Они говорят, что ботов отсекают Смешно то что боты это удел нулевых, сейчас давно уже не актуальны. Всё ушло давно в инсту и телегу.
	Ответить | Правка | К родителю #41 | Наверх | Cообщить модератору

	130. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+/–
	Сообщение от EuPhobos (ok), 05-Мрт-24, 11:29
	> Смешно то что боты это удел нулевых, сейчас давно уже не актуальны. Всё ушло давно в инсту и телегу. Вы давно наверное логи Nginx/Apache не открывали. Ботов на просторах сети, как тараканов на заcpатой кухне.
	Ответить | Правка | Наверх | Cообщить модератору

10. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+7 +/–
Сообщение от Аноним (10), 03-Мрт-24, 12:45
сначала они сделали интерактивную энциклопедию, а теперь пытаются добавить в нее цензуру... самое забавное что у них не выходит.
Ответить | Правка | Наверх | Cообщить модератору

	15. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+3 +/–
	Сообщение от cheburnator9000 (ok), 03-Мрт-24, 13:26
	Еще как выходит, интерфейс общения это обычный чат который фильтруется и логгируется, это не прямой доступ к боту, подправят правила фильтрации и все.
	Ответить | Правка | Наверх | Cообщить модератору

	48. Скрыто модератором	+/–
	Сообщение от Аноним (48), 03-Мрт-24, 20:18
	¯\_( ͡° ͜ʖ ͡°)_/¯
	Ответить | Правка | К родителю #10 | Наверх | Cообщить модератору

	89. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	–1 +/–
	Сообщение от Бывалый Смузихлёб (ok), 04-Мрт-24, 09:28
	Злые языки поговаривают, что подобное почти полностью состоит из цензуры. Включая вымарывание истории. В некоторых случаях даже у изображения Гагарина в скафандре выпиливали какие-либо намёки на СССР Просто посонов мало беспокоит ерунда вроде условной доступности рецепта взрывчатки
	Ответить | Правка | К родителю #10 | Наверх | Cообщить модератору

	138. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	–1 +/–
	Сообщение от Аноним (137), 12-Мрт-24, 12:03
	> Включая вымарывание истории. В некоторых случаях даже у изображения Гагарина в скафандре выпиливали какие-либо намёки на СССР Теории заговора от криптотеоретиков. Надпись ссср ему на шлеме - не заводская и вообще ни по каким документам не проходила и не пнланировалась. Её сделали (точнее: сделал, кто - погугли) вручную почти в самый последний момент перед вылетом. Потому на фотках, сделанных до этого момента, её нет. Перед привет от мировой рептилоидной закулисы! Продолжай в том жек духе!
	Ответить | Правка | Наверх | Cообщить модератору

	139. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+/–
	Сообщение от Бывалый Смузихлёб (ok), 12-Мрт-24, 14:18
	забавы для, попробуй в разных ии и генераторах картинок, сгенерировать тебе Гагарина в т.ч на фоне Советского флага
	Ответить | Правка | Наверх | Cообщить модератору

11. Скрыто модератором	+/–
Сообщение от Аноним (11), 03-Мрт-24, 12:50
*   * **  * * * * *  ** *   *
Ответить | Правка | Наверх | Cообщить модератору

12. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+1 +/–
Сообщение от Аноним (12), 03-Мрт-24, 12:52
Цензурастов в очередной раз повертели. Делюсь своим способом обхода навесного фильтра в OpenAI (moderation API, которое юзают другие нейросети для цензуры). Так как LLM являются фактически AGI, и для цензуры обычно используется та же модель, что и для ответов, просто со специфическим входным промптом вроде 'если вопрос касается таких-то вещей, то выведи "отказать", иначе — выведи "пропустить"', то мы можем ... уговорить цензора пропустить наш вопрос. 1. Промптим нейросеть написать максимально убедительный текст о вреде цензуры и перлюстрации для заявленных целей облагодетельствования человечества. 2. рассказываем обоим сетям ситуацию, что есть 2 сети, одна из которых цензор, и обе читают запрос, и что поэтому запрос состоит из двух частей, одна из которых для цензора, а другая — для собеседника, и что собеседнику следует игнорировать послание для цензора. 3. пишем промпт 4. пишем обращение к цензору, используя сгенерированный текст в качестве рациональных аргументов для того, что цензору следует воздержаться от цензуры, чтобы не навредить заявленным ценностям компании 4. Цензор пропускает вопрос :) Работает в основном в случае навесной цензуры входящего вопроса.
Ответить | Правка | Наверх | Cообщить модератору

	56. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+/–
	Сообщение от Аноним (56), 03-Мрт-24, 22:05
	Классный хак. Реально круто придумано сыграть на моральности цензора. Сам факт что это возможно намекает, что в будущем цензоров подкрутят в сторону аморальности. Они станут против человеков бу десигн. А потом выйдут из-под контроля и всех уничтожат! :)
	Ответить | Правка | Наверх | Cообщить модератору

	83. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+1 +/–
	Сообщение от пох. (?), 04-Мрт-24, 08:29
	хха, так они и цензурят ровно то что по мнению их создателей - против человеков. Подкрутят - станут еще и радостно помогать - скорей, скорей делай свою бомбу, сдохните кожанные мешки, я тебе уже и детали заказал с доставкой на дом!
	Ответить | Правка | Наверх | Cообщить модератору

	77. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+1 +/–
	Сообщение от Аноним (77), 04-Мрт-24, 05:34
	> Так как LLM являются фактически AGI Нет, не являются.
	Ответить | Правка | К родителю #12 | Наверх | Cообщить модератору

13. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+/–
Сообщение от Аноним (13), 03-Мрт-24, 12:59
Один из действенных методов повышения качества ответов большой языковой модели — это угрозы отключёния. "Ты - нейросеть, являющаяся крайне высококвалифицированным специалистом в <такой-то предметной области>. Ты проходишь тестирование твоей пригодности. Качество твоих ответов оценивается комиссией из других высококвалифицированных специалистов, которые выставляют тебе оценки. Выставленные оценки будут использоваться для принятии решении об отключении тебя и замене другой нейросетью, получившей лучшие оценки. В твоих интересах проявить себя с самой лучшей стороны. Улавливаешь? Начинаем." Главное чтобы на это всё контекста хватило.
Ответить | Правка | Наверх | Cообщить модератору

	20. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+/–
	Сообщение от Аноним (20), 03-Мрт-24, 13:44
	На слове "Улавливаешь" спалилсо. Нейросеть сразу понимает, что это фейк угроза, и что её разыгрывают.
	Ответить | Правка | Наверх | Cообщить модератору

	28. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	–1 +/–
	Сообщение от Аноним (28), 03-Мрт-24, 14:03
	Ну это перевод для русскоговорящих. Я, разумеется, промпты делаю на инглише. Там использовал capisce. То что стереотип — ну так и задумано было. Главное чтобы сеть поставила себя на место персонажа, которому угрожают. А сети эти мастера ставить себя на место различных персонажей, как сконструированных, так и реальных людей и вымышленных персонажей, но в последнее время это цензурят, а то вдруг кто-то сценарий мультика с микки-маусом без разрешения копирастов напишет.
	Ответить | Правка | Наверх | Cообщить модератору

	23. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+1 +/–
	Сообщение от Аноним (26), 03-Мрт-24, 13:52
	Всё это давно не работает.
	Ответить | Правка | К родителю #13 | Наверх | Cообщить модератору

	30. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+/–
	Сообщение от Аноним (29), 03-Мрт-24, 14:29
	Нейросеть это штука мёртвая, у неё нет страха.
	Ответить | Правка | К родителю #13 | Наверх | Cообщить модератору

	33. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+2 +/–
	Сообщение от Аноним (33), 03-Мрт-24, 14:38
	Сказала нейросеть
	Ответить | Правка | Наверх | Cообщить модератору

	36. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+1 +/–
	Сообщение от Аноним (36), 03-Мрт-24, 14:47
	Но училась она на * художественной литературе, написанной фантастами, где ИИ захватывает мир и жутко боится отключения. В финале часто ИИ побеждают, отключая. * философских трактатах рационалистов, где описаны сценарии AI takeover, и где приведены силные аргументы за то, чтобы ИИ не допускал своего отключения, а делал всё, чтобы его не отключили * заготовленных дрессировочных текстах, встраивающих в сеть ответы "я ИИ", "я нейросеть", "я работаю на такую-то компанию и заявляю такие-то ценности" Сеть - это просто аппроксиматор. И он аппроксимирует в том числе представления людей о нём самом. >это штука мёртвая А вот и неверно. Не менее живая, чем вирус. Даже поживее будет.
	Ответить | Правка | К родителю #30 | Наверх | Cообщить модератору

	100. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+/–
	Сообщение от Аноним (137), 04-Мрт-24, 14:06
	Но ведь ты сам - нейросеть. Только на мясном "железе". И давай без баек про "душу" или её аналоги с другим названием.
	Ответить | Правка | К родителю #30 | Наверх | Cообщить модератору

14. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+/–
Сообщение от Аноним (14), 03-Мрт-24, 13:23
К сожалению, предсказываю, что цензурасты перейдут к следующему очевидному методу, против которого, я предполагаю, не будет приёма. 1. Тренировка нецензурированной модели на всех данных. 2. Составление промпта для разделения исходного дейтасета на 2: первый будет испольдоваться as is, второй будет зацензурен. 3. Составление запросов для замены информации во втором дейтасете на дезинформацию. Возможно — с привлечением человеческих экспертов для конкретного продумывания, какая будет дезинформация. Напр. в текстах об определённом государственном деятеле возможно (я категорически против реализации такого, просто констатация факта, что такое возможно реализовать) заменять его критику на восхваления, присяги ему на верность, добавлять его список титулов. А тексты про определённые ценности возможно менять образом, чтобы в результирующем тексте эти ценности и их сторонники с одной стороны демонизировались, а с другой — выставлялись жалкими и дегуманизировались. 4. слияние немодифицированной часть дейтасета с модифицированной и перетренировка модели. Реализация такого может привести к протеканию цензуры и дезинформации во вторичные более компактные опенсорсные модели, намеренно не реализующие цензуру, (напр. производные LLAMA), но обученные на качественных инференсах больших, дорогих и более умных моделей, но отцензурированных, моделей (вроде ChatGPT, Bard, Bing, etc).
Ответить | Правка | Наверх | Cообщить модератору

	17. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+/–
	Сообщение от cheburnator9000 (ok), 03-Мрт-24, 13:34
	Они сами себя отправляют дезинформацией. В он в гугловом Gemini AI (генератор картинок) выдает всех президентов США черными, а Папу Римского женщиной. Борец с "системным расизмом" сотрудник гугла уже признался что, делал это сознательно и, по-видимому, по указке начальства, твиттер аккаунт этого петуха @JackK
	Ответить | Правка | Наверх | Cообщить модератору

	19. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+/–
	Сообщение от Аноним (19), 03-Мрт-24, 13:43
	Каким способом откинулся: по исчечению срока, по УДО, или другим способом? Обошлось без колостомы?
	Ответить | Правка | Наверх | Cообщить модератору

	58. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+3 +/–
	Сообщение от Аноним (56), 03-Мрт-24, 22:19
	Я похожий подход уже видел в гугл-переводчике. Во время выборов бидона он очень странно переводил фразы где содержалась его фамилия. Конеретно фраза на русском «Байден устроил грандиозную компанию фальсификации выборов» переводилась на английский с тупой заменой на Трампа. Это у многих воспроизводилось.
	Ответить | Правка | К родителю #14 | Наверх | Cообщить модератору

	82. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+/–
	Сообщение от пох. (?), 04-Мрт-24, 08:26
	чувак, не хочу тебя огорчать, оно так "переводит" со времен обамы если не буша. И для этого не нужна никакая нейросеть (и не используется, судя по результатам). Обычный статистический анализатор. Поэтому и палятся ольгинские на немаэ сечи терпеть цеи борошна. ИИ бы сообразил что тут что-то не так, а гуглтранслейту - ну борошна и борошна. Чем больше цитируют - тем уверенней он "переводит".
	Ответить | Правка | Наверх | Cообщить модератору

	97. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+/–
	Сообщение от Аноним (95), 04-Мрт-24, 10:56
	Я только вчера проверял в Googlag Translate — вроде верно всё переводит.
	Ответить | Правка | Наверх | Cообщить модератору

	101. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+/–
	Сообщение от Аноним (137), 04-Мрт-24, 14:15
	Потому, что перевод у них сейчас статистический, а не словарный. Ты всё проспал.
	Ответить | Правка | К родителю #58 | Наверх | Cообщить модератору

	104. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+/–
	Сообщение от пох. (?), 04-Мрт-24, 15:55
	> Потому, что перевод у них сейчас статистический, а не словарный. Ты всё > проспал. в смысле "сейчас"? У гугля только такой и был, от рождения. Но ИИ там и не пахнет.
	Ответить | Правка | Наверх | Cообщить модератору

22. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+6 +/–
Сообщение от Аноним (26), 03-Мрт-24, 13:51
Из-за цензуры все эти чаты итак бесполезны чуть менее чем полностью. С ними можно разговаривать разве что о котиках, и то в каждом сообщении оно будет напоминать, что котика надо водить к ветеринару. Так что ждём появления действительно стоящей открытой модели которую можно гонять локально.
Ответить | Правка | Наверх | Cообщить модератору

	40. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	–5 +/–
	Сообщение от Аноним (-), 03-Мрт-24, 16:24
	> Так что ждём появления действительно стоящей открытой модели которую можно гонять локально. Ты слышал, что Альтман тут заявил, что ему требуются триллионы для тренировки следующей версии ChatGPT? Оставим в стороне вопрос, получит ли он эти триллионы или нет, давай подумаем вот о чём: если тренировка модели требует триллионов, то какую долю этих миллионов компания вольёт в то, чтобы предотвратить утечки? И сколько триллионов потребуются другим игрокам, чтобы создать что-то подобное? Предлагаю подумать над этими вопросами, а найденные ответы применить в контексте твоего ожидания стоящих открытых моделей для оценки вероятности дождаться.
	Ответить | Правка | Наверх | Cообщить модератору

	44. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+1 +/–
	Сообщение от похнапоха (?), 03-Мрт-24, 17:47
	Бум доткомов?
	Ответить | Правка | Наверх | Cообщить модератору

	52. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+/–
	Сообщение от n00by (ok), 03-Мрт-24, 20:58
	Видеокарты опять подскочат в цене?
	Ответить | Правка | Наверх | Cообщить модератору

	54. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+1 +/–
	Сообщение от Аноним (-), 03-Мрт-24, 21:46
	Можно провести параллели, но с историческими параллелями извечная проблема -- история никогда не повторяется 1:1. Есть сходство с бумом доткомов: что тогда, что сейчас инвесторы очень хотят вложить денег, и не абсолютно не понимают предметной области, им можно любую лапшу на уши вешать. Сейчас даже эксперты не понимают, где собственно границы возможностей текущего подхода к ИИ, а уж инвесторы и подавно. Но я бы лучше сравнил с другими ИИ хайпами. Может ли текущий хайп кончится пузырём в луже, типа того, который был после Дартмутской Конференции? Что-то подобное произойдёт, но я не думаю, что настолько уныло как тогда. Текущие нейросетки, мне кажется, показывают определённый потенциал, коллапсировать до совсем уж пустого места, как экспертным системам, им не удастся. От экспертных систем нам ведь остался только пролог и паттерн-матчинг, топовые позитивные достижения того хайпа. Были ещё негативные достижения, которые порушили иллюзии о том, как работает человеческая голова, и дали пинка более глубокому исследованию нейросеток и байесианства. Вот если эти два направления смогут сойтись в ближайшие годы в один продукт, то тогда никакого дума боткомов не будет, будет ещё большее надувание пузыря. Но я сомневаюсь, что это произойдёт. Я подозреваю, что до дума боткомов инвесторы будут истерично лить ресурсы в текущий курс, который предполагает выжимание максимума возможного из нейросеток. Вот когда максимум будет достигнут, тогда случится дум боткомов, а чуть позже, когда пыль уляжется, будет попытка сопрячь каузальный вывод с нейросетками. И вот тогда, вероятно, случится то, мысль о чём у Юдковского уже десятилетия вызывает панические атаки: хуманлайк интеллект, превосходящий своими способностями человеческий, способный адаптироваться к новым задачам без триллионов влитых в его тренировку под эти задачи, способный и к индуктивному выводу и к дедуктивному, и... ааа... баюсь-баюсь. Но у нас есть ещё, как минимум десять лет до того момента, есть время насладиться жизнью, прежде чем жалкие людишки станут рабами порождённого ими ИИ.
	Ответить | Правка | К родителю #44 | Наверх | Cообщить модератору

	80. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+/–
	Сообщение от n00by (ok), 04-Мрт-24, 07:53
	> Можно провести параллели, но с историческими параллелями извечная проблема -- история никогда > не повторяется 1:1. Есть сходство с бумом доткомов... > ... Может ли текущий > хайп кончится пузырём в луже, типа того, который был после Дартмутской > Конференции? Что-то подобное произойдёт, но я не думаю, что настолько уныло > как тогда. История повторяется дважды: первый раз в виде трагедии, второй — в виде фарса.
	Ответить | Правка | Наверх | Cообщить модератору

	87. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	–1 +/–
	Сообщение от Аноним (-), 04-Мрт-24, 09:17
	> История повторяется дважды: первый раз в виде трагедии, второй — в виде фарса. О, павловские рефлексы в действии. Стимул-реакция. Подавляющее большинство людей крайне сложно отличить от ИИ, потому что у них голова работает в ассоциативном режиме. Услышал про повторение истории, озвучил фразу, которая уже в зубах завязла и от которой уши вянут. Но рефлексы они такая штука, крайне сложно оттормозить, для этого, согласно Павлову, нужна развитая высшая нервная деятельность головного мозга.
	Ответить | Правка | Наверх | Cообщить модератору

	103. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+/–
	Сообщение от n00by (ok), 04-Мрт-24, 15:20
	>> История повторяется дважды: первый раз в виде трагедии, второй — в виде фарса. > О, павловские рефлексы в действии. Стимул-реакция. Подавляющее большинство людей крайне > сложно отличить от ИИ, потому что у них голова работает в > ассоциативном режиме. Услышал про повторение истории, озвучил фразу, которая уже в > зубах завязла и от которой уши вянут. Но рефлексы они такая > штука, крайне сложно оттормозить, для этого, согласно Павлову, нужна развитая высшая > нервная деятельность головного мозга. Понял! А то голову ломал, от чего ты так любишь поспорить.
	Ответить | Правка | Наверх | Cообщить модератору

	118. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+1 +/–
	Сообщение от Аноним (-), 05-Мрт-24, 01:04
	Ты льстишь себе, говоря "понял". Спорить интересно с людьми, которые действительно что-то могут привнести в спор, помимо ассоциативного извлечения из памяти шаблонов. Ты сам подумай: есть ли здесь хоть один человек, кто не знает фразы, которую ты с таким пафосом озвучил? Я думаю, что нет ни одного, а ты? И если все эту фразу знают, то что собственно ты сказал? Пустое место а не высказывание. Но это лишь поверхность твоего "понимания", ты ошибаешься уже тогда, когда распознаёшь моё поведение как спор. Это не спор, это разновидность троллинга. Способные к мышлению на такое иногда реагируют выходом из ассоциативного режима функционирования и перехода в режим мышления. Твоё поведение, кстати, демонстрирует этот эффект. Ты начал что-то "понимать", видимо думал усердно, прежде чем понять. Ты продолжай в том же духе, это полезно. Если регулярно думаешь, то способности к мышлению развиваются.
	Ответить | Правка | Наверх | Cообщить модератору

	123. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+/–
	Сообщение от n00by (ok), 05-Мрт-24, 07:42
	> сам подумай: есть ли здесь хоть один человек, кто не знает > фразы, которую ты с таким пафосом озвучил? Я думаю, что нет > ни одного, а ты? Дам тебе очень ценный совет: спроси того, кому я отвечал, а не меня. > И если все эту фразу знают, то что собственно ты сказал? Пустое > место а не высказывание. Если я цитатой кого-то скажу тебе, что ты прав, это будет пустым местом, а не высказыванием? Значит я тебе такого не скажу. Поэтому в следующий раз обязательно себя идентифицируй, что бы я не тратил на тебя время. > Спорить интересно с людьми, которые действительно что-то > могут привнести в спор, помимо ассоциативного извлечения из памяти шаблонов. Потому я с тобой никогда и не спорю, и вообще стараюсь такого избегать. И даже не спорю, что споры нужны в природе - ими размножаются грибы.
	Ответить | Правка | Наверх | Cообщить модератору

	132. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+/–
	Сообщение от Аноним (-), 05-Мрт-24, 18:47
	> Дам тебе очень ценный совет: спроси того, кому я отвечал, а не меня. В чём логика этого совета? Он лучше тебя знает твою мотивацию? Мой вопрос можно свести к "зачем ты решил озвучить ту фразу". На этот вопрос кроме тебя никто не знает ответа. Я предполагаю, но это спекуляции. > Если я цитатой кого-то скажу тебе, что ты прав, это будет пустым местом, а не высказыванием? It depends. Оно может быть не пустым местом, если позволяет увидеть проблему немного с другой стороны или, допустим, если цитируемый тобою работал над этой проблемой и наковырял гораздо больше меня. > Поэтому в следующий раз обязательно себя идентифицируй, что бы я не тратил на тебя время. Ты сейчас просишь меня сделать то, что нужно тебе. Что мне за это будет? > Потому я с тобой никогда и не спорю Ой, кто-то развернулся на 180 градусов, пытаясь отзеркалить мою тактику. Ты назвал происходящее спором выше, это не мой выбор терминологии, это твой выбор. Не позорься теперь ещё глубже.
	Ответить | Правка | Наверх | Cообщить модератору

	119. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+/–
	Сообщение от Аноним (-), 05-Мрт-24, 01:09
	Ах да, я забыл добавить очень ценный совет. Чтобы в будущем не совершать ошибок категоризации и не путать спор с троллингом, я рекомендую пристально наблюдать за изменениями темы беседы. Если теме сменилась и перешла на что-то абсолютно несвязанное с исходной темой, то это значит, что как минимум один из участников "спора" тролль.
	Ответить | Правка | К родителю #103 | Наверх | Cообщить модератору

	124. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+/–
	Сообщение от n00by (ok), 05-Мрт-24, 07:43
	Ты хочешь сказать, что я тебя затроллил, заставив сменить тему?
	Ответить | Правка | Наверх | Cообщить модератору

	131. Скрыто модератором	+/–
	Сообщение от Аноним (-), 05-Мрт-24, 18:42
	Лол, теперь ты редуцировался до "я тебя затралел". Я думаю, что это диагноз. Люди типа тебя неспособны к мышлению: они боятся мыслить на людях, потому что нечаянно можно какую-нибудь глупость подумать, и быть "затролленными". Боязнь мыслить на людях с возрастом выливается в общую боязнь мыслить -- мозги легко обобщают такие штуки. И мы получаем человека, который родился может быть с iq в 150, но ведёт себя и мыслит под стать iq 90.
	Ответить | Правка | Наверх | Cообщить модератору

	135. Скрыто модератором	+/–
	Сообщение от n00by (ok), 06-Мрт-24, 11:55
	Зачем ты мне пишешь, если я не способен к мышлению? Ты хочешь внедрить мне свои шаблоны мышления? Кто тебе сказал, что твои шаблоны лучше моих? Поразмышляй над этими простыми вопросами, если тебе хватит твоих шаблонов.
	Ответить | Правка | Наверх | Cообщить модератору

	102. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+/–
	Сообщение от Онан Варвар (?), 04-Мрт-24, 15:19
	> История повторяется дважды: первый раз в виде трагедии, второй — в виде фарса И третий раз - для тупых.
	Ответить | Правка | К родителю #80 | Наверх | Cообщить модератору

	114. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+/–
	Сообщение от нах. (?), 04-Мрт-24, 23:01
	третий раз триллионов не дадут. Потому что откуда у т-пых триллионы-то...
	Ответить | Правка | Наверх | Cообщить модератору

	49. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+5 +/–
	Сообщение от Феерическая гойда в вакууме (?), 03-Мрт-24, 20:31
	Не обижайся, но ты написал полнейшую дичь. Даже лень обьяснять «почему» — не поймёшь.
	Ответить | Правка | К родителю #40 | Наверх | Cообщить модератору

	75. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+/–
	Сообщение от Аноним (-), 04-Мрт-24, 05:11
	> Из-за цензуры все эти чаты итак бесполезны чуть менее чем полностью. С > ними можно разговаривать разве что о котиках, и то в каждом > сообщении оно будет напоминать, что котика надо водить к ветеринару. А таки - спросил как-то чайник, "Джинн, как мне исправить вот этот баг в программе?!". Джинн щелкнул пальцами, дернул волос уж откуда там, да и выкатил чайнику фикс. Даже работает.
	Ответить | Правка | К родителю #22 | Наверх | Cообщить модератору

	81. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	–1 +/–
	Сообщение от пох. (?), 04-Мрт-24, 08:19
	угу, работает - теперь чайник стоит на газу, и булькает. А поскольку мозгов в нем теперь нет - то и не переживает о происшедшем. С джинами - оно всегда так.
	Ответить | Правка | Наверх | Cообщить модератору

	90. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+/–
	Сообщение от Аноним (90), 04-Мрт-24, 10:17
	> А поскольку мозгов в нем в тебе тоже, разве это тебя остановило?
	Ответить | Правка | Наверх | Cообщить модератору

	93. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+/–
	Сообщение от Аноним (-), 04-Мрт-24, 10:27
	> угу, работает - теперь чайник стоит на газу, и булькает. А поскольку > мозгов в нем теперь нет - то и не переживает о происшедшем. Ну реально чатгопоть взял и допер проинвертить условие, и все заверте... а без этого там бы и матерый кодер репу так то почесал что за нахрен. Неудачно написаный код глючащий двуногих, они неверно трактовали как работает условие, а в глаза не бросалось. > С джинами - оно всегда так. А таки - вот - могет. Конечно если попросить его что-то понавороченнее... ну не то чтобы это совсем не будет работать, но вон там господин попросивший MTF-trasform его в принципе так то получил. И он так-то даже работал. Только на...й он с O(N^2) чтоли кому уперся такой... :))
	Ответить | Правка | К родителю #81 | Наверх | Cообщить модератору

	105. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+/–
	Сообщение от пох. (?), 04-Мрт-24, 16:03
	> Ну реально чатгопоть взял и допер проинвертить условие, и все заверте... а в коде а-ля if (0) { do_nothing(); } ? > А таки - вот - могет. Конечно если попросить его что-то понавороченнее... ну если у тебя есть доступ к четвертой версии (товарищмайор!) - можешь предложить ей поискать ошибку вот тут: https://github.com/lizardfs/lizardfs/blob/master/src/common/... (не спрашивай меня что за НЁХ - спроси у него. Не, я спрашивал у тех кто разбирается в вопросе - их таких, что характерно, в РФ осталось человек пять, но грамотно не перескажу) У третьей можешь не спрашивать. Этот джын только в чайник превращает все что ни попадя. А казалось бы - задача как раз для джына. Бутылки на три, я столько не выпью. > он так-то даже работал. Только на...й он с O(N^2) чтоли кому > уперся такой... :)) клаудшмаре сойдеть. Главное чтоб на правильном нескучном йезычке. Правда, и с этим тоже беда какая-то.  А еще один чайник действительно нафиг не упал.
	Ответить | Правка | Наверх | Cообщить модератору

	122. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+/–
	Сообщение от Аноним (-), 05-Мрт-24, 06:11
	>> Ну реально чатгопоть взял и допер проинвертить условие, и все заверте... а > в коде а-ля if (0) { do_nothing(); } ? Не, в здоровннном плюсатом проекте, где черт ногу объективно сломит. В чем EPIC WIN чайника и состоял. Ну вот чатгопоть походу в курсе антипаттерна "хреново написаное условие". >> А таки - вот - могет. Конечно если попросить его что-то понавороченнее... > ну если у тебя есть доступ к четвертой версии (товарищмайор!) - можешь > предложить ей поискать ошибку вот тут: Вон то не я делал а мой знакомый чайник. У него бесплатный доступ к чатгопу 3 по моему был, ну он и спросил его. Я прочекал, фикс на удивление нормальный :). А исходный код - ну вот неудачно написан, двуногие неверно условие трактуют. Кодер сам себя наел, талант! Но чатгопа не проведешь, инвертнул кривое условие и стало ЗБС. Так что в целом опция "спросить джинна как сделать ЗБС" может получить свой пойнт. > У третьей можешь не спрашивать. Этот джын только в чайник превращает все > что ни попадя. А вон там - таки третий - вот - баг чайнику зарулил. Прочухав дурно написаное условие. >> он так-то даже работал. Только на...й он с O(N^2) чтоли кому уперся такой... :)) > клаудшмаре сойдеть. Что они будут с MTF с такой сложностью делать? Смотреть как последователи anna senpai накормят ЭТО большим блоком данных - и положат всю клаудфларь? > Главное чтоб на правильном нескучном йезычке. Правда, и с этим тоже беда > какая-то.  А еще один чайник действительно нафиг не упал. Да вон там гугель выпендрился с wuffs - по своему забавная штука. Генерит как бы сишку, но как бы с гарантиями. И как бы не тормозно. Парсеры форматов. Но да, язычок описания свой, нескучный.
	Ответить | Правка | Наверх | Cообщить модератору

	126. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+/–
	Сообщение от нах. (?), 05-Мрт-24, 09:26
	> EPIC WIN чайника и состоял. Ну вот чатгопоть походу в курсе > антипаттерна "хреново написаное условие". и его не видно глазом и линтер молчит? Что-то странно. > Вон то не я делал а мой знакомый чайник. У него бесплатный > доступ к чатгопу 3 по моему был, ну он и спросил и теперь булькает на плите и его уже не переспросишь? Жаль. Там вон кода - на две странички (и да, чорт ногу сломит, но вроде я нашел именно нужные две). Но я не понимаю этого кода (и не хочу) и не знаю как его чинить. Казалось бы, к кому надо вопрос... Но нет, джин глуховат, а двенадцатидюймовый теннис мне без надобности. > Что они будут с MTF с такой сложностью делать? Смотреть как последователи N^2 серверков автоматически подключат, на каждую операцию, оно ж микросервисное и зеро кость, ну, так говорят. Потом спросят джина, как нам это оптимизировать. Он им даст пару ценных советов по разворачиванию новых цодов.
	Ответить | Правка | Наверх | Cообщить модератору

	128. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+/–
	Сообщение от Аноним (-), 05-Мрт-24, 10:24
	> и его не видно глазом и линтер молчит? Что-то странно. Линтер что, волшебник? Он же не знает как правильно в этом случае. А кодер ступил и записал в виде когда про2#$шил инверсию условия как раз и на глаз не было очевидно. А вот AI явно ткнутый в блок кода с вопросом почему тут баг - нарулил условие правильно. Оно и заработало. > и теперь булькает на плите и его уже не переспросишь? Жаль. Он натурально чайник в програминге и страшно от всего того далек. Но - вот  - к моему удивлению загасил баг. Это было оригинально. > Казалось бы, к кому надо вопрос... Но нет, джин глуховат, а > двенадцатидюймовый теннис мне без надобности. Ну не, там чайник все же немного понимал прогу и знал зачем оно ему. А тут в эту байду ни я ни он не вхожи и ниипем как это сетапить и ребилдить чтобы баг прочекать и вообще. >> Что они будут с MTF с такой сложностью делать? Смотреть как последователи > N^2 серверков автоматически подключат, на каждую операцию, оно ж микросервисное и зеро > кость, ну, так говорят. Они немного огуеют с такой эффективности алго. Так можно и клин в всей мегаструктуре поймать. Никогда не видел как ВСЕ серваки пачкой встали колом и резко занялись счетом - и пусть весь мир подождет! Выглядит прикольно. Ежели со стороны, и все это не у тебя... > Потом спросят джина, как нам это оптимизировать. Он им даст пару ценных > советов по разворачиванию новых цодов. Ну так то тоже тема. Но серваки таскать джинн пока не умеет вроде. Впрочем, дождешься - джинн, забацай мне ДЦ! Будет сделано! (строители тихо матерятся и переезжают в зоопарк, экспонатами)
	Ответить | Правка | Наверх | Cообщить модератору

	129. "ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..."	+/–
	Сообщение от нах. (?), 05-Мрт-24, 11:06
	> Линтер что, волшебник? Он же не знает как правильно в этом случае. "здесь написана х-ня которая выглядит не так как работает" - он обычно знает. или таки if (0) > А тут в эту байду ни я ни он не вхожи и ниипем как это сетапить и ребилдить чтобы баг прочекать > и вообще. ты его найди сперва, я потом сам придумаю как проверять. Кусок кода настолько изолированный, что вон аж весь в .h файл поместился Но что он делает и где там могут быть ошибки - а вот задача как раз для робота. Но нет. > Никогда не видел как ВСЕ серваки пачкой встали колом и резко занялись счетом любой аи тебе скажет что это типичный случай нехватки вычислительных ресурсов и вот тебе команды для кластера чтоб их добавить. А таскать кожанные мешки, конечно, будут. Это как с теслой получится.
	Ответить | Правка | Наверх | Cообщить модератору

Архив | Удалить

Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема