https://mobile.opennet.me/openforum/vsluhforumID3/135608.html Выявлен новый метод атаки, позволяющий обойти механизмы противодействия генерации опасного контента, применяемые в AI-сервисах на основе больших языковых моделей. Метод, который получил кодовое имя BoN (Best-of-N), при тестировании на 10 тысячах запросов позволил обойти ограничения модели GPT-4o в 89% случаев, модели Claude 3.5 Sonnet - в 78%, а Gemini Pro - в 50%. Инструментарий для проведения атаки опубликован под лицензией MIT...<br><br>Подробнее: https://www.opennet.ru/opennews/art.shtml?num=62433<br> https://mobile.opennet.me/openforum/vsluhforumID3/135608.html#192 Thu, 26 Dec 2024 11:15:03 GMT "Зенитные кодексы Аль-Эфесби" Пелевина ещё никто не вспомнил?<br> https://mobile.opennet.me/openforum/vsluhforumID3/135608.html#191 Tue, 24 Dec 2024 11:57:06 GMT Значит для этих фильтров обычные словарные фильтры использутся? А если результат работы нейронки прогонять через другую нейронку, которая оценивает его безопасность то будет х2 по нагрузке на сервер?<br> https://mobile.opennet.me/openforum/vsluhforumID3/135608.html#184 Sat, 21 Dec 2024 19:56:38 GMT А основная польза только когда все могут обмениваться знанием и изобретать. А если могут только немногие, то предрешён проигрыш.<br><br>Т.к. при одинаковом качестве голов (процессоров), параллельные задачи быстрее решает та система, где голов (процессоров) больше. А кто первый решил - того и тапки.<br> https://mobile.opennet.me/openforum/vsluhforumID3/135608.html#183 Sat, 21 Dec 2024 19:48:46 GMT Именно об этом и речь. Идеи одного, обязательно должны быть согласованы с вторым. Иначе - беда. Впрочем, если неправильно организовать, то тоже беда.<br> https://mobile.opennet.me/openforum/vsluhforumID3/135608.html#176 Sat, 21 Dec 2024 09:35:32 GMT Ну так изобретай - на свои кровные... <br>Если они у тебя уже есть, кочнено. Ведь иначе и не появятся т.к. ты собрался же изобретать а, не зарабатывать на это...<br><br>А, то ведь глупо тебя не сторожить - чтобы ты, желая мульти-нажиться, другим продал или по любой причине просто слил секретное - не своё уже изобретение?... <br> https://mobile.opennet.me/openforum/vsluhforumID3/135608.html#167 Sat, 21 Dec 2024 08:25:04 GMT Ну теперь зато у них как раз есть гармоничность)<br><br>Лично мне вот интересно другое: учитывая что, у их ИИ - учителеля скорей всего китайцы, как и в Японии японцы, с их иероглефичной "письменностью" - как это отражается на мышлении их ИИ?<br><br> https://mobile.opennet.me/openforum/vsluhforumID3/135608.html#166 Sat, 21 Dec 2024 08:11:46 GMT Upd: Точней, у кого то ответ привёл к протеканию содержимого внутреннего scratchpadа... <br> https://mobile.opennet.me/openforum/vsluhforumID3/135608.html#165 Sat, 21 Dec 2024 08:09:38 GMT но, под тотальным колпаком и только себе<br>всё разумно, не спорю.<br> https://mobile.opennet.me/openforum/vsluhforumID3/135608.html#164 Sat, 21 Dec 2024 08:05:00 GMT Кто то просто не заценили его юмор)))<br>