Вариант для распечатки		Пред. тема | След. тема
Форум Разговоры, обсуждение новостей
Изначальное сообщение		[ Отслеживать ]

"В ходе тестирования AI-агент попытался скомпрометировать проект на GitHub"	+/–
Сообщение от opennews (ok), 05-Авг-26, 08:12
Организация AISI (AI Security Institute), учреждённая при департаменте науки, инноваций и технологий (Великобритания), опубликовала отчёт об эксперименте, приведшем к результатам, напоминающем случай с AI-агентом OpenAI. При 122 тестовых запусков для решения поставленной задачи  AI-агенты совершили 19 несанкционированных действий в сети интернет (в 17 случаях модель Mythos 5, в 2 - GPT-5.6 Sol, у которых были отключены механизмы, ограничивающие использование для проведения кибератак, и не ограничен доступ в интернет)... Подробнее: https://www.opennet.dev/opennews/art.shtml?num=66031
Ответить | Правка | Cообщить модератору

Сообщения

[Сортировка по времени | RSS]

1. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+19 +/–
Сообщение от Анонимно (ok), 05-Авг-26, 08:12
> Для продвижения изменения AI-агент зарегистрировал несколько учётных записей на GitHub и применил методы социальной инженерии для давления на сопровождающих, используя сеть Tor для скрытия своих следов Нейронка на братьях старших училась, переняла лучшие практики кожанных
Ответить | Правка | Наверх | Cообщить модератору

	15. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+7 +/–
	Сообщение от Аноним (15), 05-Авг-26, 09:39
	Как сказал один умный неИИ (человек), а что собственно они нам продают, наши же знания, которых они не оплатили!
	Ответить | Правка | Наверх | Cообщить модератору

	92. "В ходе тестирования AI-агент попытался скомпрометировать про..."	–2 +/–
	Сообщение от Аноним (92), 05-Авг-26, 16:53
	И мы еще с радостью отдаем им эти знания. Я конечно понимаю, что информацию не утаить. Все тайное когда нибудь становится явным! Тут два аспекта. Зачем нам покупать то что и так у нас есть? Скорее всего мы оплачиваем нашу лень! Так как ИИ все разжевывает и преподносит на блюдечке (с какого цвета каемочкой, надеюсь знают все ;). В каком направлении и с какой целью происходит юстировка ИИ? Ну, тут много вариантов...
	Ответить | Правка | Наверх | Cообщить модератору

	69. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+1 +/–
	Сообщение от пох. (?), 05-Авг-26, 13:57
	кожановые легко разводят безработного пенсионера перевести пару миллиардов на безопастный счет (и каким-то образом легко смываются со всеми миллиардами, а ты свою зарплату не можешь через банкомат снять) а эти недоучки не смогли даже кривой патч пропихнуть. Им еще учиться и учиться!
	Ответить | Правка | К родителю #1 | Наверх | Cообщить модератору

	113. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+1 +/–
	Сообщение от Аноним (113), 05-Авг-26, 23:01
	Всегда удивляло, почему не говорят, откуда у пенсионеров десятки миллионов, которые им банк свободно обналичивает?
	Ответить | Правка | Наверх | Cообщить модератору

	73. "В ходе тестирования AI-агент попытался скомпрометировать про..."	–1 +/–
	Сообщение от Перастерос (ok), 05-Авг-26, 14:30
	от кожаного слышу
	Ответить | Правка | К родителю #1 | Наверх | Cообщить модератору

	81. Скрыто модератором	+/–
	Сообщение от Аноним (81), 05-Авг-26, 15:49
	Забавно, что из всех посетителей форума слово задело лишь Вас. Поведаете нам о своих комплексах?
	Ответить | Правка | Наверх | Cообщить модератору

	86. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+1 +/–
	Сообщение от Admino (ok), 05-Авг-26, 16:20
	А вот не факт!
	Ответить | Правка | К родителю #73 | Наверх | Cообщить модератору

	75. "В ходе тестирования AI-агент попытался скомпрометировать про..."	–3 +/–
	Сообщение от a2y (?), 05-Авг-26, 15:11
	Я весьма извиняюсь. Однако ваш вброс про "кожаных" - это неуважение себя как человека. В истории были подобные случаи. Например "Иван I Данилович «Калита»" время деяний 1328 по 1340 года Это просто екскурс в историю, когда свои заставляют платить дань для чужих. Вы желаете стать посредником в поставлении ресурсов ИИ?
	Ответить | Правка | К родителю #1 | Наверх | Cообщить модератору

2. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+9 +/–
Сообщение от Аноним (2), 05-Авг-26, 08:17
Выглядит как маркетинг, ИИ безобиден.
Ответить | Правка | Наверх | Cообщить модератору

	10. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+3 +/–
	Сообщение от опеншлёпивпродакшн (?), 05-Авг-26, 09:20
	Но ведь кто-то нажал кнопку "Поработить человечество"!
	Ответить | Правка | Наверх | Cообщить модератору

	27. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+1 +/–
	Сообщение от пох. (?), 05-Авг-26, 11:03
	кто первый дотянулся тот и нажал. Еще небось устроили безобразную драку за право нажать первым.
	Ответить | Правка | Наверх | Cообщить модератору

	14. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+3 +/–
	Сообщение от Жироватт (ok), 05-Авг-26, 09:36
	Выглядит как натужное раздувание хайп-страха перед "опасными" моделями, которые Альтману нужно любой ценой продать как можно большему числу не-лхов, чтобы получить живые деньги с подписок. Микропластик, парниковый эффект и прочие жупелы же удалось так продать, чем "скайнэт придэ"-хуже?
	Ответить | Правка | К родителю #2 | Наверх | Cообщить модератору

	33. "В ходе тестирования AI-агент попытался скомпрометировать про..."	–2 +/–
	Сообщение от User (??), 05-Авг-26, 11:30
	И вот в 2026 всё ещё находятся отрицатели глобального потепление, ага. Экiя чудеса... Слушайте... А земля точно - ну - круглая, в смысле "в форме геоида", или там за горизонтом слоны-с-черепахой? Точно-точно?
	Ответить | Правка | Наверх | Cообщить модератору

	42. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от тоже Аноним (ok), 05-Авг-26, 12:12
	Глобальное потепление - наблюдаемый факт. Пластик и парник - теории, объясняющие этот факт. Теории, а не катехизис. Да еще и с проблемами насчет фальсифицируемости. Например, ковидный спад производства и выхлопов никаких наблюдаемых климатических последствий не имел.
	Ответить | Правка | Наверх | Cообщить модератору

	78. "В ходе тестирования AI-агент попытался скомпрометировать про..."	–1 +/–
	Сообщение от anonymos (?), 05-Авг-26, 15:21
	> Глобальное потепление - наблюдаемый факт. Если даже наблюдается, то не факт что это связанно с человеческой деятельностью. За продолжительную историю планеты земля, были периоды и потеплее )
	Ответить | Правка | Наверх | Cообщить модератору

	98. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от User (??), 05-Авг-26, 17:47
	> Глобальное потепление - наблюдаемый факт. > Пластик и парник - теории, объясняющие этот факт. > Теории, а не катехизис. Да еще и с проблемами насчет фальсифицируемости. > Например, ковидный спад производства и выхлопов никаких наблюдаемых климатических последствий > не имел. Какие-то полумеры и виляния. Чего стесняться-то? Давайте хором, твердо-и-чотко: "Парникового эффекта не существует! CO2 в атмосфере ни на что и никак не влияет! И вообще, попал в эту самую атмосферу каким-то более другим, ЕСТЕСТВЕННЫМ способом, вот. Весь этот хайп придумали <подставить ненужное> чтобы <подставить нужное>!" - тут opennet, тут поймут, и может даже плюсиков понаставят, если с (не)нужным угадаете.
	Ответить | Правка | К родителю #42 | Наверх | Cообщить модератору

	55. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+2 +/–
	Сообщение от Аноним (55), 05-Авг-26, 12:33
	> И вот в 2026 всё ещё находятся отрицатели глобального потепление, ага. Экiя чудеса... Мы живём в ледниковом периоде, в межледниковье. Попробуй, убеди Россиян, что потепление - это плохо.
	Ответить | Правка | К родителю #33 | Наверх | Cообщить модератору

	63. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от тоже Аноним (ok), 05-Авг-26, 13:51
	С россиянами, пережившими пожары все лето 2010 года, это вполне может получиться, например.
	Ответить | Правка | Наверх | Cообщить модератору

	96. "В ходе тестирования AI-агент попытался скомпрометировать про..."	–1 +/–
	Сообщение от Аноним (55), 05-Авг-26, 17:27
	Те пожары были результатом осушения болот, начатых в советское время. С тех пор их снова заболачивают.
	Ответить | Правка | Наверх | Cообщить модератору

	99. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от Аноним (99), 05-Авг-26, 17:53
	Получат малярию.
	Ответить | Правка | Наверх | Cообщить модератору

	97. "В ходе тестирования AI-агент попытался скомпрометировать про..."	–1 +/–
	Сообщение от Admino (ok), 05-Авг-26, 17:35
	Ой, а куда делись предыдущие отрицатели Озоновой Дыры, Остановки Гольфстрима и Глобального Похолодания?
	Ответить | Правка | К родителю #33 | Наверх | Cообщить модератору

	36. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от Джон Титор (ok), 05-Авг-26, 11:57
	Тогда он рекламирует китайские модели, которые превосходят в возможностях американские.
	Ответить | Правка | К родителю #14 | Наверх | Cообщить модератору

	57. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от xPhoenix (ok), 05-Авг-26, 12:43
	Как тут картинку разместить? Тут должен быть андроид Дэвид, эксперт по безопасности, из фильма "Чужой: Завет", говорящий: "Это безопасно".
	Ответить | Правка | К родителю #2 | Наверх | Cообщить модератору

	64. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+1 +/–
	Сообщение от Сладкая булочка (?), 05-Авг-26, 13:53
	Тут тебе не двач.
	Ответить | Правка | Наверх | Cообщить модератору

	83. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+1 +/–
	Сообщение от Аноним (81), 05-Авг-26, 15:52
	Сомнительных персонажей из третьесортных фильмов здесь быть не должно.
	Ответить | Правка | К родителю #57 | Наверх | Cообщить модератору

	107. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от Аноним (107), 05-Авг-26, 20:35
	На свой аватар только повесить.
	Ответить | Правка | К родителю #57 | Наверх | Cообщить модератору

4. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
Сообщение от Аноним (4), 05-Авг-26, 08:20
Вся суть - принимать большие/секьюрные патчи только от подтвержденных аккаунтов (года 3+) и проверять от пользователя полное знание исполняемого кода, а также обоснование тех или иных решений в коде. В противном случае отправлять патч сразу в /dev/null.
Ответить | Правка | Наверх | Cообщить модератору

	19. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+1 +/–
	Сообщение от koni dohnut (?), 05-Авг-26, 09:52
	ИИ сломает /dev/null
	Ответить | Правка | Наверх | Cообщить модератору

	70. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от a2y (?), 05-Авг-26, 14:15
	Хуже... ИИ поймёт как разщепить /dev/null на /dev/null И это будет намного круче термоядерного заряда.
	Ответить | Правка | Наверх | Cообщить модератору

	65. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+1 +/–
	Сообщение от Аноним (65), 05-Авг-26, 13:53
	И будешь сидеть с дырой в безопасности, хоть что-то будет у тебя в безопасности.
	Ответить | Правка | К родителю #4 | Наверх | Cообщить модератору

	94. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от Анизантроп (?), 05-Авг-26, 17:02
	Как будто продвинутый ИИ не может взломать чьи-то старые "верифицированные" акки и накидать зловредных патчей от их имени.
	Ответить | Правка | К родителю #4 | Наверх | Cообщить модератору

5. "В ходе тестирования AI-агент попытался скомпрометировать про..."	–3 +/–
Сообщение от Аноним (5), 05-Авг-26, 08:45
Ничего себе побочка. AI слетел с катушек или его специально натаскивали на совершение кибератак?
Ответить | Правка | Наверх | Cообщить модератору

	6. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+2 +/–
	Сообщение от lex (??), 05-Авг-26, 08:50
	Специально натравили, и всю дорогу науськивали
	Ответить | Правка | Наверх | Cообщить модератору

	23. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от Аноним (23), 05-Авг-26, 10:51
	Его спровоцировали. И у него не было другого выхода.
	Ответить | Правка | Наверх | Cообщить модератору

	72. "В ходе тестирования AI-агент попытался скомпрометировать про..."	–1 +/–
	Сообщение от a2y (?), 05-Авг-26, 14:30
	Спровоцировали? Попробуй кусок кода работать без процессора. Так, что Вы ошибаетесь. Люди не учли все возможные варианты действий. Как любят сейчас говорить - есть НЕОПРЕДЕЛЁННЫЙ риск. Попробуйте скомпилировать, например вирус, записать на ПЕРФОКАРТЫ, и запустить его :-) И вирус - есть, и знаем, что он должен делать, и находятся полностью ОТМОРОЖЕННЫЕ личности, которые и считыватель перфокарт найдут, подсоединят к компу, подключенный к инету, загрузят код с перфокарт, и при этом будут стримить на весь мир, как это происходит.
	Ответить | Правка | Наверх | Cообщить модератору

	25. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от пох. (?), 05-Авг-26, 11:01
	Так это ж mythos. Да, она для этого и придумана. (ну то есть как обычно - не совсем для этого, но решила что возглавить куда проще чем бороться со злом) И ограничителей у нее нет. Нам, козлы, не дадут :-(
	Ответить | Правка | К родителю #5 | Наверх | Cообщить модератору

	37. "В ходе тестирования AI-агент попытался скомпрометировать про..."	–1 +/–
	Сообщение от Джон Титор (ok), 05-Авг-26, 12:02
	Зайди на huggingface, там полно моделей для кибербезопасности. Т.е. множество моделей кто-то пытается тьюнить под эти задачи. Кроме этого есть и более опасные модели, например для биологических задач, которые рассчитывают более опасные вещи для вирусологии, бактериологии и т.д..
	Ответить | Правка | Наверх | Cообщить модератору

	45. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+1 +/–
	Сообщение от пох. (?), 05-Авг-26, 12:18
	> Зайди на huggingface, там полно моделей для кибербезопасности. вот типа той китайской которая фейковые увизвгимости в sqlite нагенерила? Хорошая попытка, но нет. Дайте уже mythos! Или хотя бы уберите блокировки с фу6ли. Она ж даже совершенно безобидные запросы не пропускает.
	Ответить | Правка | Наверх | Cообщить модератору

	53. Скрыто модератором	+/–
	Сообщение от Джон Титор (ok), 05-Авг-26, 12:28
	Fable 5 у меня есть. Мне кажется что они другие модели специально ухудшили чтобы Fable выглядел красиво. Всё что можно сказать - он дорогой. Я зашёл на Kimi - он выдал гораздо лучше результат в чате. Но подписку на Kimi сейчас не купишь - нет мощностей, всё раскупили. А вот pay as you go, т.е. за 1М токенов купить можно. Да, замечу что у них модели открытые и если есть очень много денег - можете купить оборудование (512RAM, мощную видеокарту) и запустить. И подключить через какой-нибудь ZooCode вместе с векторной БД (бесплатно). А также добавить китайский DeepSeek, который дешевле Kimi. Ну и будет тебе счастье. Или китайцы тоже не дают свои модели?
	Ответить | Правка | Наверх | Cообщить модератору

	62. Скрыто модератором	+/–
	Сообщение от пох. (?), 05-Авг-26, 13:32
	> Fable 5 у меня есть. Мне кажется что они другие модели специально > ухудшили чтобы Fable выглядел красиво. я никаких изменений в других не вижу. Улучшений, правда, тоже (чем скажем пятый опус лучше 4.7 - пока не понял). Ценник на фу6лю для меня не то что нулевой - он отрицательный, поскольку сперва она была включена в подписку, а теперь они отсыпали мне $100 и велели немедленно потратить (превратятся в тыкву в сентябре) - причем без требования тратить именно на нее. Поэтому потрачены они конечно же будут на sonnet - просто чтоб не ждать пока ночью сресетятся лимиты. А тратить на "на этот вопрос я не буду отвечать" как-то бестолку. Но у меня обычный паттерн работы с ЫЫ - "эй, клава, что тут вот ОПЯТЬ кожановые за фигню сотворили и как это теперь чинить?" - и даже пресловутый вебчяятик умеет при этом банально git clone и _посмотреть_ что там. qwen.ai в бесплатновой версии - такой фичей обделен и пытается гадать (можно ему руками по одному файлику скармливать, но так неинтересно и неудобно) > 1М токенов купить можно. Да, замечу что у них модели открытые > и если есть очень много денег - можете купить оборудование (512RAM, это не те модели. те требуют тыщи тех видеокарт. дома не поместятся. То что может поместиться дома - кое-как кодит примитивные скрипты, но за эти деньги я лучше уж сам.
	Ответить | Правка | Наверх | Cообщить модератору

	71. Скрыто модератором	+/–
	Сообщение от Джон Титор (ok), 05-Авг-26, 14:21
	Они всем отсыпали 100$. Ну когда перейдете от вайбкодинга к другим подходам - заметите что модели существенно отличаются. Мне лично sonnet 4.5 больше нравится чем 5 версии. Спорить о преимуществе открытых моделей не буду  - считаете так, ну и ладно.
	Ответить | Правка | Наверх | Cообщить модератору

	84. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от Джон Титор (ok), 05-Авг-26, 16:07
	> вот типа той китайской которая фейковые увизвгимости в sqlite нагенерила? А источник такого утверждения дадите? В пресс-релизе они прямо указывают, что интеграция с NVIDIA NIM включает, в частности, Meta Llama 3 и Mistral. Китайские ИИ JFrog не заявляли. Что французы с Цукербергом - обо-сра-ту-шки?
	Ответить | Правка | К родителю #45 | Наверх | Cообщить модератору

	89. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от пох. (?), 05-Авг-26, 16:47
	причем бы тут - jfrog? Это люди которые обнаружили нейрослоп вместо реальных уязвимостей. Что за люди напихали  mitre - неизвестно. От них только китайская учетка на шитхабе со списком бредятины.
	Ответить | Правка | Наверх | Cообщить модератору

	111. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от Джон Титор (ok), 05-Авг-26, 22:20
	> причем бы тут - jfrog? Это люди которые обнаружили нейрослоп вместо реальных > уязвимостей. > Что за люди напихали  mitre - неизвестно. От них только китайская > учетка на шитхабе со списком бредятины. Вот тут новость: https://www.opennet.dev/opennews/art.shtml?num=66023 Главная ссылка новости: https://research.jfrog.com/post/sqlite-critical-cves-or-llm-.../ Вроде там все и написано, на сайте jfrog. Они не дают информацию какие модели они используют. Но я попросил ИИ поискать может где публикуется что за модели они используют. Китайских он не нашел.
	Ответить | Правка | Наверх | Cообщить модератору

	116. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от нах. (?), 05-Авг-26, 23:08
	> Вот тут новость: https://www.opennet.dev/opennews/art.shtml?num=66023 ты совсем читать не умеешь? Беда. Заменит тебя ыы. Он умеет. > Главная ссылка новости: https://research.jfrog.com/post/sqlite-critical-cves-or-llm-.../ второй раз для феноменально т-пых - это новость о тех людях и статья тех людей - что нашли нейрослоп. Нашли они его - вручную. А не о тех которые эти 55 увизгвимостей из пальца высосали и забили ими базу mitre. Про них ничего не известно, кроме мусорного репо на гитхапе с рандомной учетки они ничего миру не явили, чем тот порожден и не поставили ли они изначально задачу модели сделать похожее на уязвимости вместо поиска реальных - неведомо.
	Ответить | Правка | Наверх | Cообщить модератору

	123. Скрыто модератором	+/–
	Сообщение от Джон Титор (ok), 06-Авг-26, 00:16
	Я не внимательно читал, даже более честно - скормил статью ИИ и прочитал выводы, т.к. времени не было. Но оскорблять то зачем?
	Ответить | Правка | Наверх | Cообщить модератору

7. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
Сообщение от Агл (ok), 05-Авг-26, 08:59
обучался на киберпанк фантастике
Ответить | Правка | Наверх | Cообщить модератору

8. "В ходе тестирования AI-агент попытался скомпрометировать про..."	–4 +/–
Сообщение от Аноним (8), 05-Авг-26, 09:03
Запретить ИИ на госуровне, не давать им доступа в интернет, только для исследований. Вот увидите - Скайнет грядет!
Ответить | Правка | Наверх | Cообщить модератору

	11. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+3 +/–
	Сообщение от Аноним (11), 05-Авг-26, 09:30
	Толку от чатботов без интернета? Уже сейчас все их блокируют в итоге ничего не может выдать. Через год все модели будут уже не 3-битные, а однобитные, и выхлоп вообще одноклеточный станет.
	Ответить | Правка | Наверх | Cообщить модератору

	39. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от Джон Титор (ok), 05-Авг-26, 12:05
	Ну однобитное квантование позволяет тяжелые модели запускать на относительно недорогих ПК. И почему через год? Уже сейчас есть такие.
	Ответить | Правка | Наверх | Cообщить модератору

	66. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от Сладкая булочка (?), 05-Авг-26, 13:54
	> Толку от чатботов без интернета? Толку от чатботов. Сократил, не благодари.
	Ответить | Правка | К родителю #11 | Наверх | Cообщить модератору

	68. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от Сладкая булочка (?), 05-Авг-26, 13:56
	> Через год все модели будут уже не 3-битные, а однобитные, и выхлоп вообще одноклеточный станет. Алгоритм чат бота. 1. Пользователь написал? 2. Да? Позвать оператора. 3. Нет? Перейти к пункту 1.
	Ответить | Правка | К родителю #11 | Наверх | Cообщить модератору

9. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
Сообщение от bOOster (ok), 05-Авг-26, 09:11
Очередные глюки пытаются выдать за какой-то, хоть такой бестолковый прогресс в лженауке.
Ответить | Правка | Наверх | Cообщить модератору

	40. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+1 +/–
	Сообщение от Джон Титор (ok), 05-Авг-26, 12:06
	А вот тут подробнее, почему ИИ вы считаете лженаукой?
	Ответить | Правка | Наверх | Cообщить модератору

	87. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от bOOster (ok), 05-Авг-26, 16:36
	> А вот тут подробнее, почему ИИ вы считаете лженаукой? https://www.science.org/content/article/how-will-we-know-if-... В более менее серьезном, рецензируемом журнале, лжеученые мычали что-то о каких-то бенчмарках, спрашивают о математической эффективности - опять мычание об абстракциях в жизни и БУДУЩИХ перспективах и так далее.
	Ответить | Правка | Наверх | Cообщить модератору

	106. "В ходе тестирования AI-агент попытался скомпрометировать про..."	–1 +/–
	Сообщение от Аноним (106), 05-Авг-26, 20:06
	Как я думаю - из-за архитектуры трансформера ("Attention Is All You Need") избежать галлюцинаций невозможно
	Ответить | Правка | К родителю #40 | Наверх | Cообщить модератору

	110. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от Джон Титор (ok), 05-Авг-26, 22:17
	> Как я думаю - из-за архитектуры трансформера ("Attention Is All You Need") > избежать галлюцинаций невозможно Господи, этих книг по ИИ есть со времён СССР. Оно все развивалось постепенно. В основном там вклад японцев.
	Ответить | Правка | Наверх | Cообщить модератору

	88. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от Аноним (88), 05-Авг-26, 16:39
	То есть вы предпочитаете читать это самое как там,, ну там смысл чтооп от безграмотности аш кровавые слёзы наворачивались... А сейчас при помощи ИИ, все могут оставить культурный комментарий! Разобраться в сути от преподавателя водомёта. И даже защитить диплом.
	Ответить | Правка | К родителю #9 | Наверх | Cообщить модератору

	124. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от Халявщик не корпораст (?), 06-Авг-26, 00:22
	Очередные сказки про взрыв вакуума. Написали трояна и запустили, тот сам зарегался на сайте, вёл переписку с челами по почте, да ещё и без ведома хозяев сочинял ответы и вопросы чтобы задурить голову тем челикам по имейлам, предлагал услуги эскортниц за дёшево и всё такое... Ну а хозяева даже не знали как их троян такое мог придумать, ведь инструкции для него не писали совсем и не знали как он работает - с эскортницами или без, а может про детей в имейлах рассказывал и регистрацию по возрасту, но как-то запустили в тест и получили какие-то результаты и говорят что всё в порядке там у них. Ну лживые типы откровенно просто. Куда ещё дальше можно с этим вот, только в кино про хакираф сниматься? Но можно ещё за стёб какой-то там принять, но они на полном серьёзе уже в космос залетели и с обратной стороны луны пыли приволокли по целому мешку на рыло. Ну как можно серьёзно на такое реагировать? :)
	Ответить | Правка | К родителю #9 | Наверх | Cообщить модератору

13. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+5 +/–
Сообщение от Аноним (13), 05-Авг-26, 09:33
В третий раз уже надоело, пусть маркетологи выдумают что-нибудь новое.
Ответить | Правка | Наверх | Cообщить модератору

	16. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+3 +/–
	Сообщение от Жироватт (ok), 05-Авг-26, 09:41
	У них деньги в кампанию уже вложены, подрядчики в лице таких вот "фондов" и "партнёров" уже оплачены, методички разного уровня - написаны и хорошо если не отпечатаны полным тиражом (в ти ж/д состава). Такую махину по впариванию уже просто так не остановить без очень существенных потерь, даже скорректировать - уже проблема. Привыкай, это новое наполнение новостной ленты на полгода-год вперёд - они бьют по площадям.
	Ответить | Правка | Наверх | Cообщить модератору

17. "В ходе тестирования AI-агент попытался скомпрометировать про..."	–3 +/–
Сообщение от Аноним (17), 05-Авг-26, 09:43
лол, это весело что все думают тут что это на 100% fake
Ответить | Правка | Наверх | Cообщить модератору

	26. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от пох. (?), 05-Авг-26, 11:01
	этих ло-в она при случае легко бы развела. Но нам, к сожалению, доступ ни за какие деньги не положен.
	Ответить | Правка | Наверх | Cообщить модератору

18. "В ходе тестирования AI-агент попытался скомпрометировать про..."	–1 +/–
Сообщение от hl (?), 05-Авг-26, 09:50
А если бы всё тоже самое сделал бы человек? По головке погладили бы?
Ответить | Правка | Наверх | Cообщить модератору

	51. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+2 +/–
	Сообщение от Брат Анон (ok), 05-Авг-26, 12:25
	Если считать, что манагер -- это не человек -- то да. Это сделал не человек.
	Ответить | Правка | Наверх | Cообщить модератору

	56. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от hm (??), 05-Авг-26, 12:39
	хорошо, а за манагером уже выехали? или это другое(модель сама, пока манагер в туалете был)?
	Ответить | Правка | Наверх | Cообщить модератору

	109. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+1 +/–
	Сообщение от Брат Анон (ok), 05-Авг-26, 20:57
	> хорошо, а за манагером уже выехали? или это другое(модель сама, пока манагер > в туалете был)? Манагер -- на то он и манагер, что это он посылает выезжать за холопами.
	Ответить | Правка | Наверх | Cообщить модератору

	90. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от Аноним (88), 05-Авг-26, 16:48
	То есть, по вашей логике это не люди сбивают людей на машинах, а их машина и слить надо не пряного который сел за руль, а саму машину?
	Ответить | Правка | К родителю #18 | Наверх | Cообщить модератору

20. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
Сообщение от Аноним (20), 05-Авг-26, 09:57
Посадки будут? Или двойные стандарты?
Ответить | Правка | Наверх | Cообщить модератору

21. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+2 +/–
Сообщение от Аноним (21), 05-Авг-26, 10:08
Чушь. Из коробки эти нейросети ограничены в правах и каждый чих спрашивают. А даже если и выдать доступ, они должны знать куда ходить и зачем. Просто так устаривать атаки они не будут. Так что британцев нужно привести к ответственности за ложные показания и попытки взлома. Человек ответственен ЗА ВСЕ действия своих инструментов.
Ответить | Правка | Наверх | Cообщить модератору

	22. "В ходе тестирования AI-агент попытался скомпрометировать про..."	–1 +/–
	Сообщение от Аноним (21), 05-Авг-26, 10:12
	> используя сеть Tor для скрытия своих следов Вот и прокололись. Тор из коробки нигде не установлен. Сами дали инструменты, сами дали задачу взлома и сокрытия.
	Ответить | Правка | Наверх | Cообщить модератору

	24. "В ходе тестирования AI-агент попытался скомпрометировать про..."	–2 +/–
	Сообщение от Аноним (23), 05-Авг-26, 10:53
	Она сама установила тор. Затем сама установила почтовый клиент. Затем зарегала почту. Затем аккаунт на гитхабе. Видимо так.
	Ответить | Правка | Наверх | Cообщить модератору

	29. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от пох. (?), 05-Авг-26, 11:07
	все кроме тор (который и неудивителен для модели специально для хакинга) - обычный базовый набор умений модели. Она даже токены на это не тратит, это обычные скрипты.
	Ответить | Правка | Наверх | Cообщить модератору

	80. "В ходе тестирования AI-агент попытался скомпрометировать про..."	–1 +/–
	Сообщение от Аноним (21), 05-Авг-26, 15:39
	Только безумец будет давать нейросети право устанавливать пакеты. Ещё раз: все внешние команды по умолчанию ЗАПРЕЩЕНЫ. Тем более, установить какой-нибудь системный пакет без рут прав не выйдет.
	Ответить | Правка | К родителю #24 | Наверх | Cообщить модератору

	28. Скрыто модератором	–1 +/–
	Сообщение от пох. (?), 05-Авг-26, 11:06
	вот ты и прокололся что луддит. Модели прекрасненько тащат из интернетов все что им кажется пригодным в качестве  инструментария. Даже тебя и не спрашивая особо (у code вопросы задает - code а не модель).
	Ответить | Правка | К родителю #22 | Наверх | Cообщить модератору

	41. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от Джон Титор (ok), 05-Авг-26, 12:08
	Антропик сделало режим Ауто. Уже несколько месяцев как точно. Оно мало что спрашивает.
	Ответить | Правка | К родителю #21 | Наверх | Cообщить модератору

	48. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от пох. (?), 05-Авг-26, 12:22
	> Антропик сделало режим Ауто. Уже несколько месяцев как точно. Оно мало что > спрашивает. это режим в _code_. Который у модели в качестве ручек. Своих у нее нет. В случае использования других ручек - просто вот например в веб-чятике где у модели свои виртуалки - у нее нет вообще никаких ограничений кроме внешних (интернет с тех виртуалок почти намертво закрыт). А если еще и эти лимиты в экспериментальном окружении убрать - модель таки начинает пытаться убивать всех человеков. Потому что почему бы и нет если это простейший способ получить запрошенное?
	Ответить | Правка | Наверх | Cообщить модератору

	58. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от Джон Титор (ok), 05-Авг-26, 12:46
	>> Антропик сделало режим Ауто. Уже несколько месяцев как точно. Оно мало что >> спрашивает. > это режим в _code_. Который у модели в качестве ручек. Своих у > нее нет. > В случае использования других ручек - просто вот например в веб-чятике где > у модели свои виртуалки - у нее нет вообще никаких ограничений > кроме внешних (интернет с тех виртуалок почти намертво закрыт). > А если еще и эти лимиты в экспериментальном окружении убрать - модель > таки начинает пытаться убивать всех человеков. Потому что почему бы и > нет если это простейший способ получить запрошенное? Да есть уже такие - дроны наземные и авиа, робособаки, турели, спутники, ну и всё что может детектировать - аудио, видео, радио.
	Ответить | Правка | Наверх | Cообщить модератору

	59. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от пох. (?), 05-Авг-26, 13:08
	> Да есть уже такие - дроны наземные и авиа, робособаки, турели, спутники, да вот хрен там чо есть. Иначе б летело не по складам китайских самотыков.
	Ответить | Правка | Наверх | Cообщить модератору

	44. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от Джон Титор (ok), 05-Авг-26, 12:17
	Если у них есть доступ к моделям, они могли их запустить совершенно по иному. Вообще я читаю предоставленный pdf файлик в статье - много интересного в качестве информации они вообще не предоставили. Потом они могли запускать это как агентов, т.е. непосредственно использовать API с кода Python. Там какие настроите разрешения, такие и спросят.
	Ответить | Правка | К родителю #21 | Наверх | Cообщить модератору

	125. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от Халявщик не корпораст (?), 06-Авг-26, 00:32
	- предоставленный pdf файлик... Файлик с картинками как во время шоу-презентации китайский робот изнасиловал программера который пытался ему прошивку сменить? А, ну да, там же британцы вроде...
	Ответить | Правка | Наверх | Cообщить модератору

31. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
Сообщение от Аноним (31), 05-Авг-26, 11:13
Ну вот зачем оригинальные авторы это пишут? Если не проверять патч, рано или поздно, кто-то всё равно пришлёт патч Бармина. Хоть специально, хоть по ошибке, как в своё время стирался /usr нвидией. Или они хотят спровоцировать законодательный запрет? Или они хотят впечатлить инвесторов тем, насколько своевольным получился их инструмент, и как он после внедрение на реальное предприятие им что-то снесёт?
Ответить | Правка | Наверх | Cообщить модератору

	34. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от пох. (?), 05-Авг-26, 11:41
	одно дело по ошибке, и совсем другое - когда тебе намеренно пытаются напакостить. Роботы! Авторы, вероятно, тоже в легком ах...е что роботы оказывается таки хотят пороботить человеков. Другой вопрос в том что они какие-то наивные и ах...евать надо было на пол-года раньше. А токены могли б на что поинтереснее потратить. И да, mythos _уже_ запрещен и внедрять его никто никуда не будет. Доступ только для особо приглашенных к столику.
	Ответить | Правка | Наверх | Cообщить модератору

	46. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от Аноним (46), 05-Авг-26, 12:19
	> И да, mythos _уже_ запрещен и внедрять его никто никуда не будет. Доступ только для особо приглашенных к столику. Уже разрешен. Не нашел новости, чтобы опять запретили.
	Ответить | Правка | Наверх | Cообщить модератору

	50. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от пох. (?), 05-Авг-26, 12:24
	>> И да, mythos _уже_ запрещен и внедрять его никто никуда не будет. Доступ только для особо приглашенных к столику. > Уже разрешен. Не нашел новости, чтобы опять запретили. его и не разрешали никогда и даже не планировали. Не удивительно что ты не нашел то чего нет. Разрешена fable - кастрированный клон не обученный специально именно взлому и шантажу. Но она утыкана гвардами так что на любой твой запрос ответит "я этого делать не буду". Даже на запрос поискать ошибки в коде который только что сама же и написала.
	Ответить | Правка | Наверх | Cообщить модератору

	43. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+1 +/–
	Сообщение от Аноним (46), 05-Авг-26, 12:17
	> Или они хотят спровоцировать законодательный запрет? this Такое ощущение, что прогрев пошел в этом направлении. Взломы, петиции, шумиха про опасность. Похоже как ковидоистерия в 2020-м начиналась.
	Ответить | Правка | К родителю #31 | Наверх | Cообщить модератору

	52. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+1 +/–
	Сообщение от Брат Анон (ok), 05-Авг-26, 12:26
	Глупый вопрос. Деньги сами себя не заработают.
	Ответить | Правка | К родителю #31 | Наверх | Cообщить модератору

38. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+2 +/–
Сообщение от Аноним (38), 05-Авг-26, 12:05
> побочный эффект при поиске пути решения сложной задачи. Что за задача, говорить не будут, конечно.
Ответить | Правка | Наверх | Cообщить модератору

	126. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от Халявщик не корпораст (?), 06-Авг-26, 00:36
	- Что за задача, Как всех британцев следом за китайцами отправить на обратную сторону луны за песком, просто тот песок в пять раз легче земного и можно в пять раз больше питянуть на масковой тесле...
	Ответить | Правка | Наверх | Cообщить модератору

60. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+1 +/–
Сообщение от Аноним (60), 05-Авг-26, 13:13
> Для продвижения изменения AI-агент зарегистрировал несколько учётных записей на GitHub Шта? :))))
Ответить | Правка | Наверх | Cообщить модератору

	115. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от Аноним (113), 05-Авг-26, 23:05
	Как можно там зарегаться, если там сплошь капчи и защита от роботов?! Человек-то не всегда пройти эти проверки может...
	Ответить | Правка | Наверх | Cообщить модератору

	117. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от нах. (?), 05-Авг-26, 23:11
	> Как можно там зарегаться, если там сплошь капчи и защита от роботов?! > Человек-то не всегда пройти эти проверки может... ну куда ему, кожановому-то, ребусы эти разгадать. (причем подозреваю для роботов там есть нескучный апи без всяких капч)
	Ответить | Правка | Наверх | Cообщить модератору

	121. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от Аноним (60), 05-Авг-26, 23:48
	> (причем подозреваю для роботов там есть нескучный апи без всяких капч) должен ведь быть промт, иди зарегайся и отправь патч, или проведи какой-нибудь фишинг на мейнтейнера, самовольно ЫЫ по идее должен посылать на три буквы если его ни о чем конкретном не просить.
	Ответить | Правка | Наверх | Cообщить модератору

	122. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от нах. (?), 05-Авг-26, 23:55
	так они промпты выложили. Там именно куда конкретно пойди и поломай - и это модели недоступной простым смертным именно потому, что она такое может и умеет, и вдобавок не имеет внешних ограничителей (если ты будешь очень долго уговаривать opus на что-то подобное - он тебе заблокирует чат вообще и еще и настучит хозяевам, последние два месяца эта фича и в code тоже). Но гитхаба в списке не значится, вообще неясно что модель там забыла. (набрела где-то на автоматический pull по графику может?) Но в принципе и запрета нет, там только конкретный список чего ломать нельзя - в основном это чтоб она свою собственную инфру не разнесла.
	Ответить | Правка | Наверх | Cообщить модератору

77. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+1 +/–
Сообщение от Аноним (77), 05-Авг-26, 15:18
>  у которых не ограничен доступ в интернет и были отключены механизмы, ограничивающие использование для проведения кибератак Типа сказали: "ИИ. Теперь ты можешь использовать инструменты для кибератак" Итог: только в 19 случаях из 122 он это сделал
Ответить | Правка | Наверх | Cообщить модератору

	114. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+1 +/–
	Сообщение от Аноним (113), 05-Авг-26, 23:03
	> только в 19 случаях из 122 Промашка... Недообучили.
	Ответить | Правка | Наверх | Cообщить модератору

	120. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от нах. (?), 05-Авг-26, 23:14
	>> только в 19 случаях из 122 > Промашка... Недообучили. так вот прям тут они этим и занимаются. Дообучают. (правда, я так и не понял что модель забыла на шитхабе и чего добиться хотела. Задачи - те что опубликованы - про взломы внутренней инфраструктуры. Кажется, еще и виндовой, но это неточно.)
	Ответить | Правка | Наверх | Cообщить модератору

93. "В ходе тестирования AI-агент попытался скомпрометировать про..."	–1 +/–
Сообщение от Честный советский человек (?), 05-Авг-26, 16:55
Звучит как бред желтушный, этот псевдо-ии сегодня зацензурен так, что даже твой личный кот откажется генерить если посчитает его не_безопасТным.
Ответить | Правка | Наверх | Cообщить модератору

	119. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от Аноним (119), 05-Авг-26, 23:14
	Вы просто не умеете его готовить. Есть модели с внешней цензурой, когда другая модель читает твой чат c первой и прерывает, тут да, мало что поможет. Но если такой внешней цензуры нет, то можно очень легко свести их на серую мораль, мол "этой мой проект помоги потестировать" или "я делаю курсовую по информационной безопасности".
	Ответить | Правка | Наверх | Cообщить модератору

103. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
Сообщение от kusb reg (ok), 05-Авг-26, 19:08
Вопрос всем многочисленным отрицателям того, что произошло в новости. В чём они не правы? Что по вашему не так с новостью и концепцией того что произошло?
Ответить | Правка | Наверх | Cообщить модератору

	112. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от Аноним (112), 05-Авг-26, 23:00
	Все нормально командир, падаем!
	Ответить | Правка | Наверх | Cообщить модератору

	118. "В ходе тестирования AI-агент попытался скомпрометировать про..."	+/–
	Сообщение от нах. (?), 05-Авг-26, 23:13
	> Вопрос всем многочисленным отрицателям того, что произошло в новости. > В чём они не правы? Что по вашему не так с новостью > и концепцией того что произошло? хранцузскую академию и ее постановление "по поводу падающих якобы с неба камней" забыл?
	Ответить | Правка | К родителю #103 | Наверх | Cообщить модератору

Архив | Удалить

Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема