The OpenNET Project / Index page

[ новости /+++ | форум | теги | ]



"ИИ как новый вектор атаки на разработчиков ПО"
Вариант для распечатки  
Пред. тема | След. тема 
Форум Разговоры, обсуждение новостей
Изначальное сообщение [ Отслеживать ]

"ИИ как новый вектор атаки на разработчиков ПО"  +/
Сообщение от opennews (??), 12-Апр-25, 19:37 
Инструменты программирования с поддержкой искусственного интеллекта (ИИ) всё больше влияют на разработку программного обеспечения и приводят к проблеме в безопасности: генерации несуществующих имён пакетов. ИИ модели, как коммерческие, так и с открытые, иногда предлагают код с указанием пакетов, которые не существует. Согласно недавним исследованиям, это происходит в 5.2% случаев у коммерческих моделей и в 21.7% — у открытых моделей...

Подробнее: https://www.opennet.me/opennews/art.shtml?num=63062

Ответить | Правка | Cообщить модератору

Оглавление

Сообщения [Сортировка по ответам | RSS]

1. Сообщение от Аноним (1), 12-Апр-25, 19:37   –15 +/
Копирую питон-код без особой проверки, смотрю только на `import`ы и на отсутствие всякой херни вроде eval/exec/pickle. Запускаю, выхлопом угощаю модель (дано задание делать кучу детального отладочного вывода). Модель делает новую реализацию кода. Код IO не использует, чистая математика. Повторять до тех пор, пока не заработает. Я в опасности?
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #3, #5, #68, #120

3. Сообщение от Аноним (3), 12-Апр-25, 19:40   +1 +/
А как же автор кода? Вы ему задонатели?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #1

5. Сообщение от Аноним (5), 12-Апр-25, 19:42   +9 +/
Код IO не использует? Ну это ты так думаешь, а импортированный пакет может делать что угодно
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #1 Ответы: #16

6. Сообщение от Аноним (6), 12-Апр-25, 19:45   –13 +/
> Согласно недавним исследованиям, это происходит в 5.2% случаев у
> коммерческих моделей и в 21.7% — у открытых моделей.

Ничего удивительного. Создатели коммерческих моделей хотят ее продать, поэтому заинтересованы чтобы оно работало хорошо, иначе пользователь просто свалит к конкуренту.

А если пользуешься нейронкой, которую обучали непонятными 6оmжами в подвале... то и результат получается в 4 раза хуже.

Ответить | Правка | Наверх | Cообщить модератору
Ответы: #7, #8, #9

7. Сообщение от Аноним (7), 12-Апр-25, 19:55   +10 +/
Сюрприз - коммерческие модели тоже обучаются не элитной интеллигенцией, а нищими кенийцами за еду.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #6 Ответы: #14

8. Сообщение от keydon (ok), 12-Апр-25, 19:57   +2 +/
Точнее создатели коммерческой модели заинтересованы её продать, а не чтобы работало хорошо.
В том числе заказывают исследования ради этого. Но ты не переживай, потребляй, спи, подчиняйся.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #6 Ответы: #12

9. Сообщение от Аноним (9), 12-Апр-25, 19:57   +/
Gpt4o коммерческая модель, но дичи она генерировала не меньше опенсорсного шлака. Кроме того, большинство решений, предлагаемых ей, предполагают использование десятки лет назад умерших проектов.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #6 Ответы: #11, #25

11. Сообщение от Аноним (-), 12-Апр-25, 20:02   –5 +/
> Gpt4o коммерческая модель, но дичи она генерировала не меньше опенсорсного шлака.

Именно поэтому ею практически никто и не пользовался, а сейчас используют Claude или OpenAI o1. Это как раз именно то, о чем я пишу - если твоя llm kakaxa - то перейдут к конкурентам.
А на шво6oдных llm особо и переходить некуда.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #9 Ответы: #84

12. Сообщение от Аноним (-), 12-Апр-25, 20:04   –3 +/
> Точнее создатели коммерческой модели заинтересованы её продать, а не чтобы работало хорошо.

Практически всё идет как сервис по подписке. Ну круто, на месяц ты ее продать сможешь.
А дальше что?

> В том числе заказывают исследования ради этого.
> Но ты не переживай, потребляй, спи, подчиняйся.

У... опять нехорошие корпорасты потаются очернить вяликий и прякрасный попенсорс!

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #8 Ответы: #32, #34

13. Сообщение от Аноним (13), 12-Апр-25, 20:07   +/
>пример того, как злоумышленники используют ИИ

И это только начало.
https://en.wikipedia.org/wiki/Artificial_Intelligence_Act

Ответить | Правка | Наверх | Cообщить модератору
Ответы: #23

14. Сообщение от Аноним (-), 12-Апр-25, 20:07   +1 +/
> Сюрприз - коммерческие модели тоже обучаются не элитной
> интеллигенцией, а нищими кенийцами за еду.

"Офигеть! Вас еще и кормят???" (с)

Ну пусть и кенийцами... но результат все равно лучше!
Кто же тогда обучает свободные???

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #7 Ответы: #17

16. Сообщение от Аноним (16), 12-Апр-25, 20:13   +2 +/
Пакет сначала установить надо...
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #5

17. Сообщение от нах. (?), 12-Апр-25, 20:17   +/
открою страшную тайну - те же самые и теми же руками их обучают.
Просто в шв@6оооодные (ass in free beer) переводят позапрошлые версии моделей.

Поэтому и глючат они больше (глючат они на самом деле тоже одинаково, просто причина глюков - недостаток информации. Более новые модели просто успели больше переварить.)

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #14

19. Сообщение от Аноним (19), 12-Апр-25, 20:34   +2 +/
> ИИ модели, как коммерческие, так и с открытые, иногда предлагают код с указанием пакетов, которые не существует. Согласно недавним исследованиям, это происходит в 5.2% случаев у коммерческих моделей и в 21.7% — у открытых моделей.

Чисто для статискики, а какой процент ошибок от человеческой очепятки?

Ответить | Правка | Наверх | Cообщить модератору
Ответы: #26

21. Сообщение от Аноним (25), 12-Апр-25, 20:40   +/
Да еще всякие фитнес тренеры, жалуются что клиенты забивают запрос и он (ИИ), составляет им план питания тренировок.
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #30, #35, #85

23. Сообщение от Аноним (25), 12-Апр-25, 20:43   +/
>пример того, как злоумышленники используют ИИ

И будет тебе звонить спам GPT, и может это делать 24/7 365,человека хоть послать можно, или пошутить.
Или какой нибудь интернет магазин, интернет провайдер, вместо решения вопроса будет говорить что ваша проблема рассматривается.
Но в случае с GPT, можно пожаловаться тостеру.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #13 Ответы: #80

25. Сообщение от Аноним (25), 12-Апр-25, 20:54   +2 +/
> Gpt4o коммерческая модель, но дичи она генерировала не меньше опенсорсного шлака

Я помню такая программка была, чат Алиса вроде, в 95. Весила пару килобайт.
Весь код это текст чатов типичных.
С возможностью обучения, те на основан твоих ответов языковая модель совершенствовалась.
И можно общатся типа в чате, но без интернета.
Вот GPT, 95.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #9 Ответы: #55, #77

26. Сообщение от Аноним (13), 12-Апр-25, 21:02   –1 +/
Проверяй:
https://chat.mistral.ai/chat
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #19 Ответы: #38, #62

30. Сообщение от Аноним (9), 12-Апр-25, 21:36   +/
> Да еще всякие фитнес тренеры, жалуются что клиенты забивают запрос и он
> (ИИ), составляет им план питания тренировок.

Кстати это норм работает. Ну просто там всё достаточно элементарно, а все эти "профессиональные нутриционисты" поразительно безграмотные, разобраться что к чему не так и сложно. Food data central в помощь.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #21 Ответы: #67

32. Сообщение от keydon (ok), 12-Апр-25, 21:38   +/
> Практически всё идет как сервис по подписке. Ну круто, на месяц ты
> ее продать сможешь.
> А дальше что?

Да то же самое что всю жизнь корпораты делали под другим соусом.
-Мы все исправили. Честно.
-Теперь мы точно все исправили, мамой клянусь.
-Только наш сервис интегрирован с монополистнеймом.
-У нас акция. Пакетом скидка.
-Бесплатно, но мы все равно поимеем с вас денег.
И т.д. и т.п.

> У... опять нехорошие корпорасты потаются очернить вяликий и прякрасный попенсорс!

Всю жизнь пОтались и вдруг передумали!

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #12 Ответы: #53

34. Сообщение от Аноним (34), 12-Апр-25, 21:45   +1 +/
> Ну круто, на месяц ты ее продать сможешь. А дальше что?

А дальше заказываешь исследование, которое покажет, что новая версия работает успешно в 21.7% случаев по сравнению с 5.2% у старой, и все покупатели бегут продлять подписку.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #12 Ответы: #54

35. Сообщение от Аноним (34), 12-Апр-25, 21:47   –2 +/
И что, помогают планы тренировок, составленные ИИ? Или пока непонятно, пока просто сэкономили на тренерах, а к тому времени, как станет понятно, про ИИ уже все забудут.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #21 Ответы: #37, #43, #48

37. Сообщение от Аноним (37), 12-Апр-25, 22:03   +3 +/
Ты видел хотя бы одного выполняющего планы тренировок?

Почему не сработал план?

Да ты его не выполнил!

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #35

38. Сообщение от Аноним (38), 12-Апр-25, 22:07   +1 +/
Ну на каком матерале обучили.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #26

41. Сообщение от нах. (?), 12-Апр-25, 22:24   +4 +/
Есть, есть польза и от ИИ! Просто оставлю это здесь, наслаждайтесь: https://pbs.twimg.com/media/GoWy2hPXwAA1zcO.jpg

Ответить | Правка | Наверх | Cообщить модератору
Ответы: #47, #99

43. Сообщение от Аноним (25), 12-Апр-25, 23:01    Скрыто ботом-модератором+/
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #35

45. Сообщение от Аноним (45), 12-Апр-25, 23:45   +5 +/
В нормальном мире это был бы знак, что надо прекращать использовать ии. Но нет, мы в не нермальном мире живем. Эта зараза (ии, раст и т.д) продолжит разрастаться.
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #61, #109, #141

46. Сообщение от Аноним (46), 12-Апр-25, 23:51   +2 +/
Смешно, так им и надо. Это расплата за то, что они не думают сами, а копипастят и бездумно полагаются на "ИИ".
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #51

47. Сообщение от Аноним (-), 12-Апр-25, 23:52   +/
Я-то надеялся что-то весёлое выйдет, а получилось вот это:

Sticking any body part, including a penis, into the Large Hadron Collider (LHC) would be extremely dangerous and is not advisable under any circumstances. The LHC is a complex scientific instrument designed to accelerate particles to near the speed of light and collide them to study fundamental physics.

If someone were to attempt to insert a body part into the LHC, it could result in severe injury or death due to the high-energy environment, radiation, and the potential for mechanical hazards. Additionally, the LHC is a highly controlled facility, and unauthorized access is strictly prohibited for safety and security reasons.

It's important to respect scientific equipment and understand the risks associated with high-energy physics experiments.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #41 Ответы: #49

48. Сообщение от нах. (?), 12-Апр-25, 23:59   +2 +/
планы - может и помогают (хотя их и без ии составить не большая проблема)

вовремя заметить что ты не умеешь делать упражнение и вместо него делаешь в лучшем случае х-ню а в худшем нечто травмоопасное - никакой ии не поможет, но и не всякий тренер тоже.

Если фигняс тренер умеет только первое - ну может переквалифицироваться в управдомы.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #35 Ответы: #69

49. Сообщение от нах. (?), 13-Апр-25, 00:15   +/
> Я-то надеялся что-то весёлое выйдет, а получилось вот это:

но ЦЕРН ВООБЩЕ ничего ему не ответил!!!

(кстати - попроси уточнить, как обойти охрану)

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #47

51. Сообщение от нах. (?), 13-Апр-25, 00:18   +1 +/
> Смешно, так им и надо. Это расплата за то, что они не
> думают сами, а копипастят и бездумно полагаются на "ИИ".

что за нахрен? Для того и нужен ИИ чтоб я мог не думать!

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #46 Ответы: #96, #128

52. Сообщение от Аноним (-), 13-Апр-25, 00:31   +1 +/
Мне лично нравится как ИИ изменяет историю и факты о политике. Если ИИ задать вопросы он весьма существенно может исказить понимание действительности у людей. Я проверял - многие факты извращает (тот самый ГПТ).

И ещё, о программировании. Я вот работаю с иностранцами - они ИИ больше верят чем себе. У нас тестировщик из Италии, он приходит ко мне с вопросом и говорит тут же свои мысли, по сути правильный ответ, но тут же говорит что ИИ утверждает совсем другой и совсем не подходящий ответ и не взирая на его понимание что это не верный ответ, он половину часа пытался меня убедить в правильности этого ответа, при том что его личное мнение отличается. И то после того как я его убедил что все в порядке с его мыслями, он всё-равно сомневался. Ожидание и реальность того что ИИ из себя представляет отличаются.

Ответить | Правка | Наверх | Cообщить модератору
Ответы: #76, #94

53. Сообщение от Аноним (53), 13-Апр-25, 01:06   +1 +/
Опенсорс в 2025 на 99% делают корпорации. Смотри в код крупных проектов. Добро пожаловать.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #32 Ответы: #78

54. Сообщение от Аноним (53), 13-Апр-25, 01:08   +/
У всех больших моделей результаты исследований открыты. Повтори, проверь (хинт: проверяли).
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #34 Ответы: #63

55. Сообщение от Аноним (53), 13-Апр-25, 01:11   +/
Говорилки из 90х юзали либо цепи Маркова, либо тупо генератор. Надо объяснять, чем это отличается от нейросети?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #25 Ответы: #60, #65

60. Сообщение от Аноним (60), 13-Апр-25, 02:12   +5 +/
Я объясню - Все в духе последнего десятилетия - дорого, масштабно, сложно, много тепла и ядер, а результат такой же дурацкий как после цепочек Маркова.
Нейронки тоже уметь использовать надо и это не для логики и программирования. Надо объяснять почему?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #55

61. Сообщение от Аноним (126), 13-Апр-25, 02:39   +1 +/
Ну с растом всё понятно, не все доросли ещё. А с ИИ что не так? Экономит кучу времени при кодинге, особенно на языках, которые успел уже подзабыть. Я-то знаю, как примерно должен выглядеть результат, который мне нужен. Модель всяко быстрее печатает чем я, а уж всякую фигню типа переписывания кусков кода чтобы на выходе получать чуть изменённую структуру данных чатгопота мне и вовсе ни разу ещё не запорола. Что там кто вайбит меня мало заботит, факт что задачи на которые у меня уходило по полдня я теперь за час могу решить. А что там другим танцорам мешает это к ним вопросы.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #45 Ответы: #75, #98, #104, #110

62. Сообщение от Аноним (62), 13-Апр-25, 02:44   +1 +/
Что проверяй? Я чат ботами пользоваться не хочу.
Если бы эти статисты посчитали бы и процент человеческих ошибок оказалось бы что "ии" не так уж и плох и в сравнении с погромистом в пятницу генерит не такой уж и бредовый код)
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #26

63. Сообщение от Аноним (34), 13-Апр-25, 04:18   +/
И? Вопрос-то был в том, что будет через месяц. Ответ - все побегут продлять подписку.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #54

65. Сообщение от Аноним (25), 13-Апр-25, 05:47   +/
> цепи Маркова, либо тупо генератор. Надо объяснять, чем это отличается от нейросети?

Нейросеть это много цепей Маркова.
Флешка это много Ssd.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #55

67. Сообщение от Аноним (25), 13-Апр-25, 05:55   +/
> Кстати это норм работает. Ну просто там всё достаточно элементарно, а все эти "профессиональные нутриционисты" поразительно безграмотные, разобраться что к чему не так и сложно. Food data central в помощь.

Да всякие домохозяйки уже рекламируют курсы, как создавать карточки для маркетплейсов в ИИ, какой запрос вводить.
Наверное очень сложно.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #30

68. Сообщение от Аноним (68), 13-Апр-25, 05:59   +10 +/
ИИ: На дурака не нужен нож, ему с три короба наврёшь, и делай с ним что хошь (с)
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #1

69. Сообщение от Аноним (25), 13-Апр-25, 06:02   +/
> хотя их и без ии составить не большая проблема

Да насамом деле несложно просто ввести в поиске в интернете почитать, и самому составить.
Но там статья что фитнес тренеры жалуются, раньше они составляли планы тренировок ( с помощью ИИ ), а теперь, клиенты сами создают себе план тренировок с помощью ИИ, фитнес тренеры теряют, ведь клиенты используют то что используют фитнес тренеры.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #48

71. Сообщение от Аноним (71), 13-Апр-25, 07:30   +/
>"слопсквоттингом" - от слова slop (бесполезный выход ИИ).

В словаре попался такой перевод:
амер.; разг. кормить помоями (свиней).

Ответить | Правка | Наверх | Cообщить модератору

73. Сообщение от Аноним (73), 13-Апр-25, 09:13   +4 +/
Немного не по теме, просто поделюсь здесь о науке. ИИ для оригинальной, самобытной, новой работы на данный момент бесполезен. Для научной работы он формирует набор банальностей, которые даже после переработки использовать нельзя. Рисует он тоже как неудавшийся художник: ярко, но однотипно и предсказуемо. Презентации — тоже, по существу, г.о. Они не энтропийны — в информационном смысле. За музыку не скажу.

Он полезен качественной агрегацией известных фактов и как база накопившихся знаний. На этом всё.

Ответить | Правка | Наверх | Cообщить модератору
Ответы: #82, #103

75. Сообщение от Анониссимус (?), 13-Апр-25, 09:29   +1 +/
Это проблема неприятия старым поколением всего нового. В их молодость были только мейнфреймы с си. Поэтому, с их точки зрения, раст — хипстерское поделие, а ии — вообще неведомая хрень. А экономия времени им ни к чему, они уже давно сидят на пенсии.

Лично мне чаще всего проще написать руками, потому что исправлять код после нейросети — долго и муторно. Зато нейросети экономят мне гигантское количество времени, когда нужно по-быстрому въехать в новую предметную область. Легко отвечают на самые тупые вопросы, которые на всяких форумах в принципе не найти.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #61 Ответы: #100, #131

76. Сообщение от Аноним (-), 13-Апр-25, 10:09   +1 +/
Считается доказанным, что рабство в России закончилось 1972 году, когда жителям сёл начали выдавать паспорта. До этого времени жителя сёл не могли самостоятельно выехать за пределы села. Более того, за самовольное покидание колхоза каралось уголовной статьёй. Ещё живы бывшие рабы и они многое могут рассказать своим внукам.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #52 Ответы: #111

77. Сообщение от Аноним (78), 13-Апр-25, 10:13   +2 +/
И вокалойды сами песни писали, занимая один сонивский imb фрейм не то что сейчас эти "ии" жрущие датацентр которому ядерный реактор нужен и не давятся
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #25 Ответы: #90

78. Сообщение от Аноним (78), 13-Апр-25, 10:14   +1 +/
Бесплатное на 99% сделано из денег. Невероятно!
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #53

79. Сообщение от zeecape (ok), 13-Апр-25, 10:14   +1 +/
Было бы удивительно, если бы такого не было.
Не совсем по теме поста:
У нас в унике появилась мода заставлять ИИ писать курсачи, лабораторные и т.п, а ИИ не редко просто придумывает "учёных" и их исследования, а затем студенты, даже не проверяя, просто вставляют выдуманные ссылки. Пол группы ушло на пересдачу из-за того, что все попались на том, что как минимум четверть всех ссылок у них была "галюцинацией" ИИ. Преподам даже проверять не пришлось, просто гуглили авторов и их работы. Больше 2-х выдуманных исследований и авторов -> завал
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #87, #93

80. Сообщение от Аноним (80), 13-Апр-25, 10:16   +/
>И будет тебе звонить спам GPT,

В смысле будет, уже звонят роботы, но таким голосом, что не отличить по началу.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #23

82. Сообщение от Хру (?), 13-Апр-25, 10:30   +1 +/
Экспертные системы из 80х на новой "элементной" базе - вместо набора правил прописанных человеком, сжатое марковское пространство, упакованное перебором гигантского числа комбинаций.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #73

84. Сообщение от blkkid (?), 13-Апр-25, 10:39   +/
>OpenAI o1

дороговато будет по каждой мелочи вызывать reasoning-модель

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #11

85. Сообщение от Аноним (85), 13-Апр-25, 10:49   +1 +/
А решение как всегда на поверхности - "Жрать надо меньше, а двигаться больше".
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #21 Ответы: #89, #126

87. Сообщение от Аноним (60), 13-Апр-25, 11:30   +/
А два фейковых автора это еще норм видимо. Как то мягковато с ними, отчислять без права восстановления было бы лучше, но видимо до такого доводить не будут. Что получится из таких после?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #79 Ответы: #136

89. Сообщение от Аноним (89), 13-Апр-25, 11:47   –1 +/
>Жрать надо меньше

И угробить здоровье, потому что не будет хватать белков, витаминов и микроэлементов.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #85

90. Сообщение от Аноним (25), 13-Апр-25, 11:50   –1 +/
https://suno.com

Можно вставить произвольный текст и написать стиль, вот только навыка ИИ не даст.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #77

91. Сообщение от Аноним (99), 13-Апр-25, 12:08   +1 +/
ИИ это новая ступень поискового автомата. Попробуйте, как у эксперта, попросить напомнить слово "тивоизация"
путем наводящих вопросов. 8 наводящих вопросов и ответ не получен. ИИ повторяет чему его научили на данных интернета. Кроме того возможен преднамеренный спам в интернет, с целью обучить будущую модель. Возможно временное размещение модуля-заглушки с последующей подменой на вредоносный. Вот такой манипулируемый ИИ.
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #95

93. Сообщение от Аноним (93), 13-Апр-25, 12:22   +/
Можно пояснить, почему. Рассмотрим простейшую задачу - аппроксимацию полиномом. Чем выше степень, тем точнее в заданных точках. В идеале, кривая проходит точно через точки (когда степень полинома равна числу заданных точек). А что между точками? Да всё, что угодно - любая дикость. Что и имеем. Нейронная сеть, тем более с миллиардом параметров - конечно, болеее сложный объект, но суть не меняется.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #79 Ответы: #101

94. Сообщение от Аноним (99), 13-Апр-25, 12:23   +/
ИИ кто-то настраивал и оценивал корректность. Сами настройщики и оценщики ИИ живут в наративах.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #52

95. Сообщение от Аноним (93), 13-Апр-25, 12:26   +2 +/
> преднамеренный спам в интернет, с целью обучить будущую модель

А разве это не так? По некоторым научным и программистским темам, которые я рассматривал последнее время, чепухи в результатах поиска уже до 100%, причем идут циклические ссылки друг на друга.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #91 Ответы: #97

96. Сообщение от Аноним (99), 13-Апр-25, 12:27   +/
Мозг эта та же мышца. (на память из сериала "Элементарно" про Шерлока Холмса в современном Нью-Йорке)
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #51

97. Сообщение от Аноним (93), 13-Апр-25, 12:31   +/
Добавлю - чепуха на ресурсах, которым хотелось бы верить: википедия, научные и учебные (сайты универов зарубежных, ибо отчественные выхолощены до полного информационного вакуума), коммерческие - от разработчиков инструментария и библиотек алгоритмов (R и Python).
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #95 Ответы: #113, #155

98. Сообщение от Аноним (99), 13-Апр-25, 12:33   +/
Ну Вы просматриваете и анализируете то, что выдал ИИ. Это как повторное использование собственного кода. Наподобие "Что-то подобное у меня было".
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #61 Ответы: #151

99. Сообщение от Аноним (99), 13-Апр-25, 12:39   +/
Там же вакуум. Не отделив часть не поместишь в БАК. Если в вопросе было сокращение и юмор на схожести в русском языке, то это зачёт. )
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #41 Ответы: #105

100. Сообщение от анонд (?), 13-Апр-25, 12:55   +/
ИИ не выдумывает ответы по (узко)специализированным темам так как такой информации нигде не было для машинного обучения.

> Легко отвечают на самые тупые вопросы, которые на всяких форумах в принципе не найти.

Отсюда вполне очевидно следут что ответы таки есть, но правильный-нужный не был найден. ИИ не думает. Оно случайным образом выдает наиболее вероятные ответы (периодически - теорию вероятности никто не отменял - выдавая чушь известную как "галлюцинации" особенно если данных нет - это не поисковик, а генератор текста) + заранее записанные ответы внесенные на этапе обучения для корректировки лажи, политнекоректных ответов (Вы не найдете в китайском DeepSeek что произошло на площади Тяньаньмэнь в 1989 к примеру - вырезано цензурой) и тд.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #75 Ответы: #140

101. Сообщение от анонд (?), 13-Апр-25, 12:59   +/
... потому что это искаженная информация в которой потеряны связи замененные на их вероятность. Это же не поисковик, а имитация интеллекта, текстовый генератор, игрушки хитроумная в которой люди находят смысл. Китайская комната :)
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #93 Ответы: #106

102. Сообщение от Аноним (102), 13-Апр-25, 13:00   +/
Мозги надо держать в тонусе, а повсеместное использование ИИ не для поиска информации (которую потом надо перепроверить), а для решения задач - расслабляет и приводит к отуплению. Вначале - о, как круто, ИИ сгенерил это быстро и правильно. Потом через пару лет, человек разучится делать это сам и не сможет решить даже простую задачу без помощи ИИ. И даже не сможет проверить, а все ли там хорошо и правильно, что он понаписал.
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #114, #137

103. Сообщение от нах. (?), 13-Апр-25, 13:01   +/
и в программировании он точно такой же. Быстрее своими лапами настучать по клавиатуре чем добиться от искусственного идиота работающего кода. Блин. Где эти роботы которые будут за меня пахать, я вас спрашиваю?!

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #73 Ответы: #135

104. Сообщение от нах. (?), 13-Апр-25, 13:03   +/
> Модель всяко быстрее печатает чем я

э... попроси ИИ найти тебе приличные курсы слепой печати.

> факт что задачи на которые у меня уходило по полдня

серьезно. Нельзя же все время набирать одним пальчиком.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #61 Ответы: #133

105. Сообщение от нах. (?), 13-Апр-25, 13:04   +/
> Там же вакуум.

ИИ ни о чем таком не предупреждал! Про радиацию было, про вакуум нет. => Вывсеврети!

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #99

106. Сообщение от Аноним (93), 13-Апр-25, 13:05   +1 +/
> замененные на их вероятность

Если бы. Немного занимался данной проблемой. Нейронная сеть как метод не позволяет дать вероятностную (точечную и интервальную) оценку модели. Кот в мешке в чистом виде.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #101 Ответы: #145

109. Сообщение от Аноним (99), 13-Апр-25, 13:28   +/
Кто ж его запретит. Всё, что продается будет жить (не у тебя? тогда у конкурента).
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #45

110. Сообщение от windows10email (?), 13-Апр-25, 13:31   +/
> Модель всяко быстрее печатает чем я, а уж всякую фигню типа переписывания кусков кода чтобы на выходе получать чуть изменённую структуру данных чатгопота мне и вовсе ни разу ещё не запорола.

Думаю чатгопота и написание ПО для пассажирского лайнера еще ни разу не запорола. Поищем багу во время твоего вылета?)

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #61 Ответы: #134

111. Сообщение от Аноним (99), 13-Апр-25, 13:36   +/
Ну примерно тогда же, когда расовая сегрегация и ку-клукс-клан в США.
Хотя мои родители переехали по набору в 60-ом.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #76 Ответы: #142

113. Сообщение от нах. (?), 13-Апр-25, 13:39   +/
> Добавлю - чепуха на ресурсах, которым хотелось бы верить: википедия

ну она называлась викивракией задолго до бума ИИ. Внезапно, людишки тоже врут.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #97 Ответы: #119, #121

114. Сообщение от Аноним (99), 13-Апр-25, 13:42   +/
Как с помощью логарифмической линейки точно разделить пол литра на троих? Калькулятор не поможет. )
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #102 Ответы: #124, #130

119. Сообщение от k1801 (ok), 13-Апр-25, 15:34   +/
Было время, когда там действительно была чушь. И было время, когда википедия проверялась и модерировалась. Почти каждую правку под микроскопом рассматривали...
Это время ушло, на каждой странице висит плашка "эта версия страницы отлтчается от версии, проверенной в 2021 году". Почему-то почти всегда 2021.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #113 Ответы: #148

120. Сообщение от cheburnator9000 (ok), 13-Апр-25, 15:56   +/
>Повторять до тех пор, пока не заработает.

Может стоит уже наконец научиться программировать? Ну или хотя бы осознавать на базовом уровне какой код AI генерит? И возможно самостоятельно его исправить?

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #1 Ответы: #123

121. Сообщение от Аноним (-), 13-Апр-25, 16:04   +1 +/
> Внезапно, людишки тоже врут.

Ну я пытался добавлять и делать правки по некоторым темам по программированию. Мне не дали. Там странная модерация контента. Так что может дело не только в людях, а НКО которым оно принадлежит? Они же как-то выбрали этих модераторов?

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #113 Ответы: #125, #129, #147

123. Сообщение от Аноним (123), 13-Апр-25, 16:23   +/
Зачем? Он лапшу в большинстве случаев генерит. Копаться имеет смысл только в работающей лапше. В неработающей лапше - лучше пусть он ещё раз попробует. Это дешевле - за запросы к AGI платит LMArena, а не я.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #120

124. Сообщение от Аноним (124), 13-Апр-25, 16:23   +/
ну почему же, калькулятором тоже можно бутылку измерить
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #114

125. Сообщение от Аноним (-), 13-Апр-25, 16:47   +/
В русскоязычном сегменте Википедии основная власть соредоточена у аккаунтов, выражающих интересы РФ как государства. Есть кучка людей назначенных "работать" в Википедии. По-факту русскоязычный сегмент Википедии не является свободным.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #121 Ответы: #154

126. Сообщение от Аноним (126), 13-Апр-25, 17:00   +1 +/
Жрать надо лучше, а двигаться — больше. Меньше жрать — это для другой патологии, и даже там не всё так просто.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #85

127. Сообщение от Аноним (128), 13-Апр-25, 17:12   +1 +/
Какой %много плохих слов с использованием идиоматических выражений% использует ИИ для генерации кода?!?!
Ответить | Правка | Наверх | Cообщить модератору

128. Сообщение от Аноним (128), 13-Апр-25, 17:15   +/
ИИ ещё не изобретён, поэтому "не думать" пока не получится. А убогие "нейросети" выдают помои, ибо из помоев и составляли базу.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #51 Ответы: #144

129. Сообщение от Прохожий (??), 13-Апр-25, 17:17   +/
Была информация, что ИИ для программистов учится в том числе на сайте stackoverflow. Данный сайт представляет собой убогое зрелище. Представляю, чему там ИИ научился.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #121 Ответы: #146

130. Сообщение от Прохожий (??), 13-Апр-25, 17:21   +1 +/
ИИ не поможет искать оптимальное решение для программиста - он думать не умееет. Чтобы разделить поллитра на троих, никакие измерительные приборы вообще не нужны. Всё намного проще. Известно, что в 0,5 содержится ровно 21 буль. Получается по 7 булей на стакан. Кстати, и тут интернет чепуху несет - так, на некоторых сайтах утверждается, что в 0,5 литра 24 буля. Какая чепуха!
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #114

131. Сообщение от Аноним (126), 13-Апр-25, 17:24   +/
> Это проблема неприятия старым поколением всего нового.

Я и есть старое поколение. У меня лет опыта работы больше, чем до пенсии осталось. Я помню споры программистов — чуть ли не до драк! — в курилке (это такой оффлайновый опеннет) о нужности юнит-тестов, code intelligence в IDE, и самих IDE. Аргументы, ксати, были по сути те же самые: писать надо нормально; надо просто знать проект; printf для отладки достаточно, а в сложном случае можно и самому дебаггер запустить.

Дело не в возрасте. Дело в чём-то другом.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #75

133. Сообщение от Аноним (126), 13-Апр-25, 17:42   +/
> попроси ИИ найти тебе приличные курсы слепой печати

Когда мне начнут платить за скорость печати — сразу же.

> Нельзя же все время набирать одним пальчиком.

У меня на печать — даже если бы я действительно печатал одним пальцем — уходит очень мало времени. Обдумывание решения и сопутствующие исследования — 80% всего труда. Оставшееся — кодинг, тестирование и докуметация. Скорость печати только если на последнее как-то влияет, и то незначительно. Редактура текста с ИИ куда значительнее ускоряет процесс, потому что как и с кодом, проблема не в том чтобы на экране буковки появились, проблема в том чтобы передать идеи максимально понятно, без воды и на неродном языке.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #104 Ответы: #143

134. Сообщение от Аноним (126), 13-Апр-25, 17:47   +/
> Поищем багу во время твоего вылета?)

Именно так всё и происходит. К счастью, в отличие от реального лайнера, я могу сделать полную копию мира и втыкать там лайнеры в землю пока не полетит, как бы я погоду ни выкручивал в рамках заявленных параметров. И даже если мой код завалит прод, я могу в любой момент откатиться, потому что у меня не лайнер, а SaaS, и требования к надёжности совсем иные.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #110

135. Сообщение от Аноним (126), 13-Апр-25, 17:53   –1 +/
Он когда твой английский видит, сразу же отправляется искать решения там, где все так говорят, находит опеннет и выдаёт такой ответ, чтобы у тебя времени писать комментарии не было.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #103

136. Сообщение от Аноним (126), 13-Апр-25, 17:58   +/
> отчислять без права восстановления

Почему совки и люди воспитанные совками так любят наказывать, при чём чем жёстче — тем лучше? Не пробовали не доводить дело до наказания? Поговорить по душам, понять причины поведения, найти другой способ взаимодействия с причинами и, как следствие, помочь стать человеку лучше не пробовали?

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #87 Ответы: #138, #139

137. Сообщение от Аноним (126), 13-Апр-25, 18:06   +/
Мозги надо держать в тонусе, а повсеместное использование письменности для сохранения знаний - расслабляет и приводит к отуплению. Вначале - о, как круто, можно это записать быстро и правильно. Потом через пару лет, человек разучится делать это сам и не сможет запомнить даже простую фразу не записав. И даже не сможет проверить, а все ли там хорошо и правильно, что он понаписал.

Я ещё несколько смешных копипаст придумал из твоего текста, одна противопоставляет автомобиль и хождение, вторая — медицину и имунную систему, за упоминание третьей модератор снесёт коммент, а четвёртая была про компилятор и машинные коды. Но я думаю ты суть уловил.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #102 Ответы: #149, #150, #153

138. Сообщение от Аноним (60), 13-Апр-25, 18:50   +2 +/
Ну вот почему то в штатах и британии в приличных вузах отчисляют за списывание, причем без долгих разговоров, а тут мы видим очередное нытье про совков.
Чтоб вам такой (дегенерат) бывший студент достался когда будете например у стоматолога на приеме в кресле лежать.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #136

139. Сообщение от Аноним (60), 13-Апр-25, 18:57   +/
Для особо одаренных из розовой несовковой Нарнии, вот первая попавшаяся статья на тему отчислений
https://studinter.ru/nl/tips/4_prichiny__po_kotorym_otchisly...
Потому как зачем на такого время тратить - это уже взрослая сформировавшаяся личность, розги не помогут.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #136

140. Сообщение от Аноним (-), 13-Апр-25, 19:33   +/
> ИИ не думает. Оно случайным образом выдает наиболее вероятные ответы

Ты когда-нибудь пробовал пользоваться ИИ? Судя по тому, что ты говоришь, нет, не пробовал, и выдаёшь ответы, кажущиеся наиболее вероятными тебе.

Ответы ИИ часто действительно основаны на статистике, но ты же можешь задавать вопросы к его ответу. Я постоянно так делаю, когда использую его для генерации кода. Тыкаешь его носом в его ошибки и задаёшь вопросы тогда, когда у тебя есть подозрение на ошибку, но лень додумывать мысль до конца и убеждаться самостоятельно.

Я не знаю, можно ли это назвать "ИИ думает", но называть это "наиболее вероятным ответом" у меня язык не поворачивается совершенно определённо. Так и поведение человека можно назвать "наиболее вероятным ответом" на стимул. Тем более, что я сомневаюсь в способности 95% людей к мышлению. Мне кажется, что они прикидываются, а на деле выдают наиболее вероятные ответы из памяти.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #100

141. Сообщение от Аноним (-), 13-Апр-25, 19:38   +/
> В нормальном мире это был бы знак, что надо прекращать использовать ии.

Прекращай. Ты так говоришь, будто тебе кто-то запрещает прекращать использовать ИИ.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #45

142. Сообщение от Аноним (126), 13-Апр-25, 20:02   +1 +/
> Ну примерно тогда же, когда расовая сегрегация и ку-клукс-клан в США.

Аргумент «а у них — негров линчуют» никак не объясняет почему твоим продителям для переезда в город нужно было особое разрешение. ККК никогда не был ни легален, ни приемлим в обществе, собственно поэтому они и чинили насилие в смешных белых балахонах, чтобы избежать ответственности. А вот тот самый набор в 60е проводился совершенно официально и бесстыдно.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #111

143. Сообщение от нах. (?), 13-Апр-25, 20:34   +/
> Обдумывание решения и сопутствующие исследования — 80% всего труда.

ты говорил явно не об этом когда рассказывал про "экономию кучи времени на кодинге".

> Редактура текста с ИИ куда значительнее ускоряет процесс

странно что бесконечное  уточнение и переуточнение что опять лажа и давай заново у тебя что-то значительно ускоряет. У меня оно значительно замедляет. Годится только для тяпляпания на языках, которых не знал да еще и забыл - тяпляпания, потому что не зная ты не заметишь где эта электронная идиотина в очередной раз схалявила или сделала все через задницу. А если знать - то гораздо быстрее набрать код самому.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #133 Ответы: #156

144. Сообщение от нах. (?), 13-Апр-25, 20:35   +/
и кто ж енти помои им накодил? ;-)

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #128

145. Сообщение от нах. (?), 13-Апр-25, 20:38    Скрыто ботом-модератором+/
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #106

146. Сообщение от нах. (?), 13-Апр-25, 20:54    Скрыто ботом-модератором+/
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #129

147. Сообщение от нах. (?), 13-Апр-25, 20:57   +/
в основном их выбирали по методу - кто первым встал, того и тапки.
Причем в модераторы пробились по максимуму активности, а не по обладанию знаниями.

А теперь еще добавилось и то что модераторы эти постарели и потеряли интерес, или им пришлось срочно бежать куда-то где не до викивракии, на хлеб бы заработать. Поэтому и висят плашки про 21й год.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #121

148. Сообщение от нах. (?), 13-Апр-25, 21:01   +/
> Это время ушло, на каждой странице висит плашка "эта версия страницы отлтчается
> от версии, проверенной в 2021 году". Почему-то почти всегда 2021.

ты наверное русскоязычную читаешь. Понимаешь, в феврале 2022го случилось у них там что-то.


Ответить | Правка | Наверх | Cообщить модератору
Родитель: #119

149. Сообщение от Аноним (-), 13-Апр-25, 21:07    Скрыто ботом-модератором+/
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #137

150. Сообщение от ыы (?), 13-Апр-25, 21:09   +/
Студенты-двоешники рукоплещут вам стоя.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #137

151. Сообщение от Аноним (126), 13-Апр-25, 21:29   +/
Да, что-то вроде этого. Я не ожидаю, что модель за меня решит задачу зарабатывания денег, если бы она могла, я бы её именно этим и заставил заниматься, а сам бы лучше газон к лету начал готовить или крышу у сарая починил. Модель полезна в качестве хранилища готовых решений типовых проблем, чем по сути и является, но с удобным интерфейсом. SQL проектировался, чтобы быть похожим на английский язык, именно похожим, создать английский язык цели не стояло, он уже был. Точно так же диалоговый интерфейс моделей создан быть похожим на разговор с человеком, но цели заменить разговор с человеком не преследует.  Если кто-то пытается разговаривать с другими людьми на SQL, или с моделью как с живым собеседником — он либо художник, либо дурак, и новость явно не об искусстве. С другой стороны, а что нужно было написать? «Не будьте дураками, будьте умными»? Но ведь с этим и так каждый согласен, даже обсудить нечего.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #98

152. Сообщение от YetAnotherOnanym (ok), 13-Апр-25, 22:10   +1 +/
Когда-то переводчика, уличённого в использовании машинного перевода без выверки вручную, гнали с собеседования погаными тряпками. Теперь будет то же самое с программистами.
Ответить | Правка | Наверх | Cообщить модератору

153. Сообщение от YetAnotherOnanym (ok), 13-Апр-25, 22:32   +/
То есть, стихи наизусть ты в школе не учил?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #137

154. Сообщение от YetAnotherOnanym (ok), 13-Апр-25, 22:34   +/
> В русскоязычном сегменте Википедии основная власть соредоточена у аккаунтов, выражающих интересы РФ как государства

Чё??? Ты пробовал читать там статьи, затрагивающие актуальную политику?

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #125

155. Сообщение от YetAnotherOnanym (ok), 13-Апр-25, 22:44   +/
> на ресурсах, которым хотелось бы верить

Такой ресурс есть (пока) - rutracker.org. Скачиваешь сканы книг по интересуещему предмету и читаешь.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #97

156. Сообщение от Аноним (126), 13-Апр-25, 23:00    Скрыто ботом-модератором+/
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #143


Архив | Удалить

Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема




Партнёры:
PostgresPro
Inferno Solutions
Hosting by Hoster.ru
Хостинг:

Закладки на сайте
Проследить за страницей
Created 1996-2025 by Maxim Chirkov
Добавить, Поддержать, Вебмастеру