Инструменты программирования с поддержкой искусственного интеллекта (ИИ) всё больше влияют на разработку программного обеспечения и приводят к проблеме в безопасности: генерации несуществующих имён пакетов. ИИ модели, как коммерческие, так и с открытые, иногда предлагают код с указанием пакетов, которые не существует. Согласно недавним исследованиям, это происходит в 5.2% случаев у коммерческих моделей и в 21.7% — у открытых моделей...Подробнее: https://www.opennet.dev/opennews/art.shtml?num=63062
Копирую питон-код без особой проверки, смотрю только на `import`ы и на отсутствие всякой херни вроде eval/exec/pickle. Запускаю, выхлопом угощаю модель (дано задание делать кучу детального отладочного вывода). Модель делает новую реализацию кода. Код IO не использует, чистая математика. Повторять до тех пор, пока не заработает. Я в опасности?
А как же автор кода? Вы ему задонатели?
Код IO не использует? Ну это ты так думаешь, а импортированный пакет может делать что угодно
Пакет сначала установить надо...
ИИ: На дурака не нужен нож, ему с три короба наврёшь, и делай с ним что хошь (с)
>Повторять до тех пор, пока не заработает.Может стоит уже наконец научиться программировать? Ну или хотя бы осознавать на базовом уровне какой код AI генерит? И возможно самостоятельно его исправить?
Зачем? Он лапшу в большинстве случаев генерит. Копаться имеет смысл только в работающей лапше. В неработающей лапше - лучше пусть он ещё раз попробует. Это дешевле - за запросы к AGI платит LMArena, а не я.
> Согласно недавним исследованиям, это происходит в 5.2% случаев у
> коммерческих моделей и в 21.7% — у открытых моделей.Ничего удивительного. Создатели коммерческих моделей хотят ее продать, поэтому заинтересованы чтобы оно работало хорошо, иначе пользователь просто свалит к конкуренту.
А если пользуешься нейронкой, которую обучали непонятными 6оmжами в подвале... то и результат получается в 4 раза хуже.
Сюрприз - коммерческие модели тоже обучаются не элитной интеллигенцией, а нищими кенийцами за еду.
> Сюрприз - коммерческие модели тоже обучаются не элитной
> интеллигенцией, а нищими кенийцами за еду."Офигеть! Вас еще и кормят???" (с)
Ну пусть и кенийцами... но результат все равно лучше!
Кто же тогда обучает свободные???
открою страшную тайну - те же самые и теми же руками их обучают.
Просто в шв@6оооодные (ass in free beer) переводят позапрошлые версии моделей.Поэтому и глючат они больше (глючат они на самом деле тоже одинаково, просто причина глюков - недостаток информации. Более новые модели просто успели больше переварить.)
Точнее создатели коммерческой модели заинтересованы её продать, а не чтобы работало хорошо.
В том числе заказывают исследования ради этого. Но ты не переживай, потребляй, спи, подчиняйся.
> Точнее создатели коммерческой модели заинтересованы её продать, а не чтобы работало хорошо.Практически всё идет как сервис по подписке. Ну круто, на месяц ты ее продать сможешь.
А дальше что?> В том числе заказывают исследования ради этого.
> Но ты не переживай, потребляй, спи, подчиняйся.У... опять нехорошие корпорасты потаются очернить вяликий и прякрасный попенсорс!
> Практически всё идет как сервис по подписке. Ну круто, на месяц ты
> ее продать сможешь.
> А дальше что?Да то же самое что всю жизнь корпораты делали под другим соусом.
-Мы все исправили. Честно.
-Теперь мы точно все исправили, мамой клянусь.
-Только наш сервис интегрирован с монополистнеймом.
-У нас акция. Пакетом скидка.
-Бесплатно, но мы все равно поимеем с вас денег.
И т.д. и т.п.> У... опять нехорошие корпорасты потаются очернить вяликий и прякрасный попенсорс!
Всю жизнь пОтались и вдруг передумали!
Опенсорс в 2025 на 99% делают корпорации. Смотри в код крупных проектов. Добро пожаловать.
Бесплатное на 99% сделано из денег. Невероятно!
> Ну круто, на месяц ты ее продать сможешь. А дальше что?А дальше заказываешь исследование, которое покажет, что новая версия работает успешно в 21.7% случаев по сравнению с 5.2% у старой, и все покупатели бегут продлять подписку.
У всех больших моделей результаты исследований открыты. Повтори, проверь (хинт: проверяли).
И? Вопрос-то был в том, что будет через месяц. Ответ - все побегут продлять подписку.
Gpt4o коммерческая модель, но дичи она генерировала не меньше опенсорсного шлака. Кроме того, большинство решений, предлагаемых ей, предполагают использование десятки лет назад умерших проектов.
> Gpt4o коммерческая модель, но дичи она генерировала не меньше опенсорсного шлака.Именно поэтому ею практически никто и не пользовался, а сейчас используют Claude или OpenAI o1. Это как раз именно то, о чем я пишу - если твоя llm kakaxa - то перейдут к конкурентам.
А на шво6oдных llm особо и переходить некуда.
>OpenAI o1дороговато будет по каждой мелочи вызывать reasoning-модель
> Gpt4o коммерческая модель, но дичи она генерировала не меньше опенсорсного шлакаЯ помню такая программка была, чат Алиса вроде, в 95. Весила пару килобайт.
Весь код это текст чатов типичных.
С возможностью обучения, те на основан твоих ответов языковая модель совершенствовалась.
И можно общатся типа в чате, но без интернета.
Вот GPT, 95.
Говорилки из 90х юзали либо цепи Маркова, либо тупо генератор. Надо объяснять, чем это отличается от нейросети?
Я объясню - Все в духе последнего десятилетия - дорого, масштабно, сложно, много тепла и ядер, а результат такой же дурацкий как после цепочек Маркова.
Нейронки тоже уметь использовать надо и это не для логики и программирования. Надо объяснять почему?
> цепи Маркова, либо тупо генератор. Надо объяснять, чем это отличается от нейросети?Нейросеть это много цепей Маркова.
Флешка это много Ssd.
И вокалойды сами песни писали, занимая один сонивский imb фрейм не то что сейчас эти "ии" жрущие датацентр которому ядерный реактор нужен и не давятся
https://suno.comМожно вставить произвольный текст и написать стиль, вот только навыка ИИ не даст.
>пример того, как злоумышленники используют ИИИ это только начало.
https://en.wikipedia.org/wiki/Artificial_Intelligence_Act
>пример того, как злоумышленники используют ИИИ будет тебе звонить спам GPT, и может это делать 24/7 365,человека хоть послать можно, или пошутить.
Или какой нибудь интернет магазин, интернет провайдер, вместо решения вопроса будет говорить что ваша проблема рассматривается.
Но в случае с GPT, можно пожаловаться тостеру.
>И будет тебе звонить спам GPT,В смысле будет, уже звонят роботы, но таким голосом, что не отличить по началу.
> ИИ модели, как коммерческие, так и с открытые, иногда предлагают код с указанием пакетов, которые не существует. Согласно недавним исследованиям, это происходит в 5.2% случаев у коммерческих моделей и в 21.7% — у открытых моделей.Чисто для статискики, а какой процент ошибок от человеческой очепятки?
Проверяй:
https://chat.mistral.ai/chat
Ну на каком матерале обучили.
Что проверяй? Я чат ботами пользоваться не хочу.
Если бы эти статисты посчитали бы и процент человеческих ошибок оказалось бы что "ии" не так уж и плох и в сравнении с погромистом в пятницу генерит не такой уж и бредовый код)
Да еще всякие фитнес тренеры, жалуются что клиенты забивают запрос и он (ИИ), составляет им план питания тренировок.
> Да еще всякие фитнес тренеры, жалуются что клиенты забивают запрос и он
> (ИИ), составляет им план питания тренировок.Кстати это норм работает. Ну просто там всё достаточно элементарно, а все эти "профессиональные нутриционисты" поразительно безграмотные, разобраться что к чему не так и сложно. Food data central в помощь.
> Кстати это норм работает. Ну просто там всё достаточно элементарно, а все эти "профессиональные нутриционисты" поразительно безграмотные, разобраться что к чему не так и сложно. Food data central в помощь.Да всякие домохозяйки уже рекламируют курсы, как создавать карточки для маркетплейсов в ИИ, какой запрос вводить.
Наверное очень сложно.
И что, помогают планы тренировок, составленные ИИ? Или пока непонятно, пока просто сэкономили на тренерах, а к тому времени, как станет понятно, про ИИ уже все забудут.
Ты видел хотя бы одного выполняющего планы тренировок?Почему не сработал план?
Да ты его не выполнил!
> И что, помогают планы тренировок, составленные ИИhttps://evotren.ru/blog/tpost/s23k9acle1-iskusstvennii-intel...
планы - может и помогают (хотя их и без ии составить не большая проблема)вовремя заметить что ты не умеешь делать упражнение и вместо него делаешь в лучшем случае х-ню а в худшем нечто травмоопасное - никакой ии не поможет, но и не всякий тренер тоже.
Если фигняс тренер умеет только первое - ну может переквалифицироваться в управдомы.
> хотя их и без ии составить не большая проблемаДа насамом деле несложно просто ввести в поиске в интернете почитать, и самому составить.
Но там статья что фитнес тренеры жалуются, раньше они составляли планы тренировок ( с помощью ИИ ), а теперь, клиенты сами создают себе план тренировок с помощью ИИ, фитнес тренеры теряют, ведь клиенты используют то что используют фитнес тренеры.
А решение как всегда на поверхности - "Жрать надо меньше, а двигаться больше".
>Жрать надо меньшеИ угробить здоровье, потому что не будет хватать белков, витаминов и микроэлементов.
Жрать надо лучше, а двигаться — больше. Меньше жрать — это для другой патологии, и даже там не всё так просто.
Есть, есть польза и от ИИ! Просто оставлю это здесь, наслаждайтесь: https://pbs.twimg.com/media/GoWy2hPXwAA1zcO.jpg
Я-то надеялся что-то весёлое выйдет, а получилось вот это:Sticking any body part, including a penis, into the Large Hadron Collider (LHC) would be extremely dangerous and is not advisable under any circumstances. The LHC is a complex scientific instrument designed to accelerate particles to near the speed of light and collide them to study fundamental physics.
If someone were to attempt to insert a body part into the LHC, it could result in severe injury or death due to the high-energy environment, radiation, and the potential for mechanical hazards. Additionally, the LHC is a highly controlled facility, and unauthorized access is strictly prohibited for safety and security reasons.
It's important to respect scientific equipment and understand the risks associated with high-energy physics experiments.
> Я-то надеялся что-то весёлое выйдет, а получилось вот это:но ЦЕРН ВООБЩЕ ничего ему не ответил!!!
(кстати - попроси уточнить, как обойти охрану)
Там же вакуум. Не отделив часть не поместишь в БАК. Если в вопросе было сокращение и юмор на схожести в русском языке, то это зачёт. )
> Там же вакуум.ИИ ни о чем таком не предупреждал! Про радиацию было, про вакуум нет. => Вывсеврети!
В нормальном мире это был бы знак, что надо прекращать использовать ии. Но нет, мы в не нермальном мире живем. Эта зараза (ии, раст и т.д) продолжит разрастаться.
Ну с растом всё понятно, не все доросли ещё. А с ИИ что не так? Экономит кучу времени при кодинге, особенно на языках, которые успел уже подзабыть. Я-то знаю, как примерно должен выглядеть результат, который мне нужен. Модель всяко быстрее печатает чем я, а уж всякую фигню типа переписывания кусков кода чтобы на выходе получать чуть изменённую структуру данных чатгопота мне и вовсе ни разу ещё не запорола. Что там кто вайбит меня мало заботит, факт что задачи на которые у меня уходило по полдня я теперь за час могу решить. А что там другим танцорам мешает это к ним вопросы.
Это проблема неприятия старым поколением всего нового. В их молодость были только мейнфреймы с си. Поэтому, с их точки зрения, раст — хипстерское поделие, а ии — вообще неведомая хрень. А экономия времени им ни к чему, они уже давно сидят на пенсии.Лично мне чаще всего проще написать руками, потому что исправлять код после нейросети — долго и муторно. Зато нейросети экономят мне гигантское количество времени, когда нужно по-быстрому въехать в новую предметную область. Легко отвечают на самые тупые вопросы, которые на всяких форумах в принципе не найти.
ИИ не выдумывает ответы по (узко)специализированным темам так как такой информации нигде не было для машинного обучения.> Легко отвечают на самые тупые вопросы, которые на всяких форумах в принципе не найти.
Отсюда вполне очевидно следут что ответы таки есть, но правильный-нужный не был найден. ИИ не думает. Оно случайным образом выдает наиболее вероятные ответы (периодически - теорию вероятности никто не отменял - выдавая чушь известную как "галлюцинации" особенно если данных нет - это не поисковик, а генератор текста) + заранее записанные ответы внесенные на этапе обучения для корректировки лажи, политнекоректных ответов (Вы не найдете в китайском DeepSeek что произошло на площади Тяньаньмэнь в 1989 к примеру - вырезано цензурой) и тд.
> ИИ не думает. Оно случайным образом выдает наиболее вероятные ответыТы когда-нибудь пробовал пользоваться ИИ? Судя по тому, что ты говоришь, нет, не пробовал, и выдаёшь ответы, кажущиеся наиболее вероятными тебе.
Ответы ИИ часто действительно основаны на статистике, но ты же можешь задавать вопросы к его ответу. Я постоянно так делаю, когда использую его для генерации кода. Тыкаешь его носом в его ошибки и задаёшь вопросы тогда, когда у тебя есть подозрение на ошибку, но лень додумывать мысль до конца и убеждаться самостоятельно.
Я не знаю, можно ли это назвать "ИИ думает", но называть это "наиболее вероятным ответом" у меня язык не поворачивается совершенно определённо. Так и поведение человека можно назвать "наиболее вероятным ответом" на стимул. Тем более, что я сомневаюсь в способности 95% людей к мышлению. Мне кажется, что они прикидываются, а на деле выдают наиболее вероятные ответы из памяти.
> Это проблема неприятия старым поколением всего нового.Я и есть старое поколение. У меня лет опыта работы больше, чем до пенсии осталось. Я помню споры программистов — чуть ли не до драк! — в курилке (это такой оффлайновый опеннет) о нужности юнит-тестов, code intelligence в IDE, и самих IDE. Аргументы, ксати, были по сути те же самые: писать надо нормально; надо просто знать проект; printf для отладки достаточно, а в сложном случае можно и самому дебаггер запустить.
Дело не в возрасте. Дело в чём-то другом.
Ну Вы просматриваете и анализируете то, что выдал ИИ. Это как повторное использование собственного кода. Наподобие "Что-то подобное у меня было".
Да, что-то вроде этого. Я не ожидаю, что модель за меня решит задачу зарабатывания денег, если бы она могла, я бы её именно этим и заставил заниматься, а сам бы лучше газон к лету начал готовить или крышу у сарая починил. Модель полезна в качестве хранилища готовых решений типовых проблем, чем по сути и является, но с удобным интерфейсом. SQL проектировался, чтобы быть похожим на английский язык, именно похожим, создать английский язык цели не стояло, он уже был. Точно так же диалоговый интерфейс моделей создан быть похожим на разговор с человеком, но цели заменить разговор с человеком не преследует. Если кто-то пытается разговаривать с другими людьми на SQL, или с моделью как с живым собеседником — он либо художник, либо дурак, и новость явно не об искусстве. С другой стороны, а что нужно было написать? «Не будьте дураками, будьте умными»? Но ведь с этим и так каждый согласен, даже обсудить нечего.
> Модель всяко быстрее печатает чем яэ... попроси ИИ найти тебе приличные курсы слепой печати.
> факт что задачи на которые у меня уходило по полдня
серьезно. Нельзя же все время набирать одним пальчиком.
> попроси ИИ найти тебе приличные курсы слепой печатиКогда мне начнут платить за скорость печати — сразу же.
> Нельзя же все время набирать одним пальчиком.
У меня на печать — даже если бы я действительно печатал одним пальцем — уходит очень мало времени. Обдумывание решения и сопутствующие исследования — 80% всего труда. Оставшееся — кодинг, тестирование и докуметация. Скорость печати только если на последнее как-то влияет, и то незначительно. Редактура текста с ИИ куда значительнее ускоряет процесс, потому что как и с кодом, проблема не в том чтобы на экране буковки появились, проблема в том чтобы передать идеи максимально понятно, без воды и на неродном языке.
> Обдумывание решения и сопутствующие исследования — 80% всего труда.ты говорил явно не об этом когда рассказывал про "экономию кучи времени на кодинге".
> Редактура текста с ИИ куда значительнее ускоряет процесс
странно что бесконечное уточнение и переуточнение что опять лажа и давай заново у тебя что-то значительно ускоряет. У меня оно значительно замедляет. Годится только для тяпляпания на языках, которых не знал да еще и забыл - тяпляпания, потому что не зная ты не заметишь где эта электронная идиотина в очередной раз схалявила или сделала все через задницу. А если знать - то гораздо быстрее набрать код самому.
> ты говорил явно не об этом когда рассказывал про "экономию кучи времени на кодинге".Явно не об этом. Я говорю о таких вещах как взять кусок кода, сводящий датафрейм из трёх разных источников и добавить туда четвёртый. Моя задача — найти этого четвёртого, понять как у него выяснить то, что надо, куда в датафрейме это надо приженить, и потом объяснить людям занятым непосредственно бизнесом компании как это поможет им заработать больше или потерять меньше. Большую часть времени я могу кодинг спихнуть на разработчика — пара часов в тимс объяснить что надо и порядок. Иногда спихнуть невозможно и приходится за разработчика писать самому. Написать трансформацию в нужную структуру и прицепить структуру куда надо в существующее дерево — это интересно, писать всю остальную сагу с пойди туда, возьми то, отнеси этому, там вернут жсон или 5xx, который найди в этом enum, и так далее — это компьтер может сгенерировать с огромной точностью по существующей кодовой базе, там вариации этой задачи уже решались неоднократно, все эти решения прошли код-ревью, и некоторые упомянуты в гайде для разрабов как эталонные. Раньше я копипастил нужные куски сущевующего кода в нужном порядке, переименовывал пару переменных, и порядок, но это занимало день, если не два. Теперь за меня это делает модель, и занимает это час. Я там не программы для спасения человечества от мирового голода пишу, а банальную автоматизацию.
> Модель всяко быстрее печатает чем я, а уж всякую фигню типа переписывания кусков кода чтобы на выходе получать чуть изменённую структуру данных чатгопота мне и вовсе ни разу ещё не запорола.Думаю чатгопота и написание ПО для пассажирского лайнера еще ни разу не запорола. Поищем багу во время твоего вылета?)
> Поищем багу во время твоего вылета?)Именно так всё и происходит. К счастью, в отличие от реального лайнера, я могу сделать полную копию мира и втыкать там лайнеры в землю пока не полетит, как бы я погоду ни выкручивал в рамках заявленных параметров. И даже если мой код завалит прод, я могу в любой момент откатиться, потому что у меня не лайнер, а SaaS, и требования к надёжности совсем иные.
Кто ж его запретит. Всё, что продается будет жить (не у тебя? тогда у конкурента).
> В нормальном мире это был бы знак, что надо прекращать использовать ии.Прекращай. Ты так говоришь, будто тебе кто-то запрещает прекращать использовать ИИ.
Смешно, так им и надо. Это расплата за то, что они не думают сами, а копипастят и бездумно полагаются на "ИИ".
> Смешно, так им и надо. Это расплата за то, что они не
> думают сами, а копипастят и бездумно полагаются на "ИИ".что за нахрен? Для того и нужен ИИ чтоб я мог не думать!
Мозг эта та же мышца. (на память из сериала "Элементарно" про Шерлока Холмса в современном Нью-Йорке)
ИИ ещё не изобретён, поэтому "не думать" пока не получится. А убогие "нейросети" выдают помои, ибо из помоев и составляли базу.
и кто ж енти помои им накодил? ;-)
Мне лично нравится как ИИ изменяет историю и факты о политике. Если ИИ задать вопросы он весьма существенно может исказить понимание действительности у людей. Я проверял - многие факты извращает (тот самый ГПТ).И ещё, о программировании. Я вот работаю с иностранцами - они ИИ больше верят чем себе. У нас тестировщик из Италии, он приходит ко мне с вопросом и говорит тут же свои мысли, по сути правильный ответ, но тут же говорит что ИИ утверждает совсем другой и совсем не подходящий ответ и не взирая на его понимание что это не верный ответ, он половину часа пытался меня убедить в правильности этого ответа, при том что его личное мнение отличается. И то после того как я его убедил что все в порядке с его мыслями, он всё-равно сомневался. Ожидание и реальность того что ИИ из себя представляет отличаются.
Считается доказанным, что рабство в России закончилось 1972 году, когда жителям сёл начали выдавать паспорта. До этого времени жителя сёл не могли самостоятельно выехать за пределы села. Более того, за самовольное покидание колхоза каралось уголовной статьёй. Ещё живы бывшие рабы и они многое могут рассказать своим внукам.
Ну примерно тогда же, когда расовая сегрегация и ку-клукс-клан в США.
Хотя мои родители переехали по набору в 60-ом.
> Ну примерно тогда же, когда расовая сегрегация и ку-клукс-клан в США.Аргумент «а у них — негров линчуют» никак не объясняет почему твоим продителям для переезда в город нужно было особое разрешение. ККК никогда не был ни легален, ни приемлим в обществе, собственно поэтому они и чинили насилие в смешных белых балахонах, чтобы избежать ответственности. А вот тот самый набор в 60е проводился совершенно официально и бесстыдно.
ИИ кто-то настраивал и оценивал корректность. Сами настройщики и оценщики ИИ живут в наративах.
>"слопсквоттингом" - от слова slop (бесполезный выход ИИ).В словаре попался такой перевод:
амер.; разг. кормить помоями (свиней).
Немного не по теме, просто поделюсь здесь о науке. ИИ для оригинальной, самобытной, новой работы на данный момент бесполезен. Для научной работы он формирует набор банальностей, которые даже после переработки использовать нельзя. Рисует он тоже как неудавшийся художник: ярко, но однотипно и предсказуемо. Презентации — тоже, по существу, г.о. Они не энтропийны — в информационном смысле. За музыку не скажу.Он полезен качественной агрегацией известных фактов и как база накопившихся знаний. На этом всё.
Экспертные системы из 80х на новой "элементной" базе - вместо набора правил прописанных человеком, сжатое марковское пространство, упакованное перебором гигантского числа комбинаций.
и в программировании он точно такой же. Быстрее своими лапами настучать по клавиатуре чем добиться от искусственного идиота работающего кода. Блин. Где эти роботы которые будут за меня пахать, я вас спрашиваю?!
Он когда твой английский видит, сразу же отправляется искать решения там, где все так говорят, находит опеннет и выдаёт такой ответ, чтобы у тебя времени писать комментарии не было.
Было бы удивительно, если бы такого не было.
Не совсем по теме поста:
У нас в унике появилась мода заставлять ИИ писать курсачи, лабораторные и т.п, а ИИ не редко просто придумывает "учёных" и их исследования, а затем студенты, даже не проверяя, просто вставляют выдуманные ссылки. Пол группы ушло на пересдачу из-за того, что все попались на том, что как минимум четверть всех ссылок у них была "галюцинацией" ИИ. Преподам даже проверять не пришлось, просто гуглили авторов и их работы. Больше 2-х выдуманных исследований и авторов -> завал
А два фейковых автора это еще норм видимо. Как то мягковато с ними, отчислять без права восстановления было бы лучше, но видимо до такого доводить не будут. Что получится из таких после?
> отчислять без права восстановленияПочему совки и люди воспитанные совками так любят наказывать, при чём чем жёстче — тем лучше? Не пробовали не доводить дело до наказания? Поговорить по душам, понять причины поведения, найти другой способ взаимодействия с причинами и, как следствие, помочь стать человеку лучше не пробовали?
Ну вот почему то в штатах и британии в приличных вузах отчисляют за списывание, причем без долгих разговоров, а тут мы видим очередное нытье про совков.
Чтоб вам такой (дегенерат) бывший студент достался когда будете например у стоматолога на приеме в кресле лежать.
Для особо одаренных из розовой несовковой Нарнии, вот первая попавшаяся статья на тему отчислений
https://studinter.ru/nl/tips/4_prichiny__po_kotorym_otchisly...
Потому как зачем на такого время тратить - это уже взрослая сформировавшаяся личность, розги не помогут.
Можно пояснить, почему. Рассмотрим простейшую задачу - аппроксимацию полиномом. Чем выше степень, тем точнее в заданных точках. В идеале, кривая проходит точно через точки (когда степень полинома равна числу заданных точек). А что между точками? Да всё, что угодно - любая дикость. Что и имеем. Нейронная сеть, тем более с миллиардом параметров - конечно, болеее сложный объект, но суть не меняется.
... потому что это искаженная информация в которой потеряны связи замененные на их вероятность. Это же не поисковик, а имитация интеллекта, текстовый генератор, игрушки хитроумная в которой люди находят смысл. Китайская комната :)
> замененные на их вероятностьЕсли бы. Немного занимался данной проблемой. Нейронная сеть как метод не позволяет дать вероятностную (точечную и интервальную) оценку модели. Кот в мешке в чистом виде.
ну собственно поэтому она и бредит - в ней принципиально невозможно отличить бредятину от правильного ответа. Кроме вон как у того инвалида пальцевого набора - заставлять ее проверять свои же результаты пока не получится что-то полуработающее. Но по-моему ты раньше хруст выучишь чем так получишь нормальный код.
ИИ это новая ступень поискового автомата. Попробуйте, как у эксперта, попросить напомнить слово "тивоизация"
путем наводящих вопросов. 8 наводящих вопросов и ответ не получен. ИИ повторяет чему его научили на данных интернета. Кроме того возможен преднамеренный спам в интернет, с целью обучить будущую модель. Возможно временное размещение модуля-заглушки с последующей подменой на вредоносный. Вот такой манипулируемый ИИ.
> преднамеренный спам в интернет, с целью обучить будущую модельА разве это не так? По некоторым научным и программистским темам, которые я рассматривал последнее время, чепухи в результатах поиска уже до 100%, причем идут циклические ссылки друг на друга.
Добавлю - чепуха на ресурсах, которым хотелось бы верить: википедия, научные и учебные (сайты универов зарубежных, ибо отчественные выхолощены до полного информационного вакуума), коммерческие - от разработчиков инструментария и библиотек алгоритмов (R и Python).
> Добавлю - чепуха на ресурсах, которым хотелось бы верить: википедияну она называлась викивракией задолго до бума ИИ. Внезапно, людишки тоже врут.
Было время, когда там действительно была чушь. И было время, когда википедия проверялась и модерировалась. Почти каждую правку под микроскопом рассматривали...
Это время ушло, на каждой странице висит плашка "эта версия страницы отлтчается от версии, проверенной в 2021 году". Почему-то почти всегда 2021.
> Это время ушло, на каждой странице висит плашка "эта версия страницы отлтчается
> от версии, проверенной в 2021 году". Почему-то почти всегда 2021.ты наверное русскоязычную читаешь. Понимаешь, в феврале 2022го случилось у них там что-то.
> Внезапно, людишки тоже врут.Ну я пытался добавлять и делать правки по некоторым темам по программированию. Мне не дали. Там странная модерация контента. Так что может дело не только в людях, а НКО которым оно принадлежит? Они же как-то выбрали этих модераторов?
В русскоязычном сегменте Википедии основная власть соредоточена у аккаунтов, выражающих интересы РФ как государства. Есть кучка людей назначенных "работать" в Википедии. По-факту русскоязычный сегмент Википедии не является свободным.
> В русскоязычном сегменте Википедии основная власть соредоточена у аккаунтов, выражающих интересы РФ как государстваЧё??? Ты пробовал читать там статьи, затрагивающие актуальную политику?
Была информация, что ИИ для программистов учится в том числе на сайте stackoverflow. Данный сайт представляет собой убогое зрелище. Представляю, чему там ИИ научился.
блин, ну ты пробовал читать ответы, а не сразу из вопроса копипастить-то?В целом, качество стековерфлова, на мой взгляд, несколько лучше выхлопа бесплатных моделей.
Если вот до ответа дочитывать.Модели, похоже, тоже не очень различают такие тонкости.
в основном их выбирали по методу - кто первым встал, того и тапки.
Причем в модераторы пробились по максимуму активности, а не по обладанию знаниями.А теперь еще добавилось и то что модераторы эти постарели и потеряли интерес, или им пришлось срочно бежать куда-то где не до викивракии, на хлеб бы заработать. Поэтому и висят плашки про 21й год.
> на ресурсах, которым хотелось бы веритьТакой ресурс есть (пока) - rutracker.org. Скачиваешь сканы книг по интересуещему предмету и читаешь.
Мозги надо держать в тонусе, а повсеместное использование ИИ не для поиска информации (которую потом надо перепроверить), а для решения задач - расслабляет и приводит к отуплению. Вначале - о, как круто, ИИ сгенерил это быстро и правильно. Потом через пару лет, человек разучится делать это сам и не сможет решить даже простую задачу без помощи ИИ. И даже не сможет проверить, а все ли там хорошо и правильно, что он понаписал.
Как с помощью логарифмической линейки точно разделить пол литра на троих? Калькулятор не поможет. )
ну почему же, калькулятором тоже можно бутылку измерить
ИИ не поможет искать оптимальное решение для программиста - он думать не умееет. Чтобы разделить поллитра на троих, никакие измерительные приборы вообще не нужны. Всё намного проще. Известно, что в 0,5 содержится ровно 21 буль. Получается по 7 булей на стакан. Кстати, и тут интернет чепуху несет - так, на некоторых сайтах утверждается, что в 0,5 литра 24 буля. Какая чепуха!
Мозги надо держать в тонусе, а повсеместное использование письменности для сохранения знаний - расслабляет и приводит к отуплению. Вначале - о, как круто, можно это записать быстро и правильно. Потом через пару лет, человек разучится делать это сам и не сможет запомнить даже простую фразу не записав. И даже не сможет проверить, а все ли там хорошо и правильно, что он понаписал.
Я ещё несколько смешных копипаст придумал из твоего текста, одна противопоставляет автомобиль и хождение, вторая — медицину и имунную систему, за упоминание третьей модератор снесёт коммент, а четвёртая была про компилятор и машинные коды. Но я думаю ты суть уловил.
Нехорошо приводить копипасты без ссылок на авторов. Твоя копипаста это Сократ, переложенный своими словами.
Студенты-двоешники рукоплещут вам стоя.
То есть, стихи наизусть ты в школе не учил?
Какой %много плохих слов с использованием идиоматических выражений% использует ИИ для генерации кода?!?!
Когда-то переводчика, уличённого в использовании машинного перевода без выверки вручную, гнали с собеседования погаными тряпками. Теперь будет то же самое с программистами.