The OpenNET Project / Index page

[ новости /+++ | форум | теги | ]

Google использовал большую языковую модель для выявления уязвимости в SQLite

02.11.2024 08:39

Исследователи из подразделений Google Project Zero и Google DeepMind опубликовали отчёт о развитии AI-системы Big Sleep, построенной на базе большой языковой модели Gemini 1.5 Pro и предназначенной для определения уязвимостей в исходном коде. Достижением проекта стало выявление с использованием Big Sleep первой пригодной для эксплуатации и ранее неизвестной уязвимости в существующем проекте. Уязвимость выявлена в результате проверки AI-системой кодовой базы СУБД SQLite и приводит к переполнению за нижнюю границу буфера в стеке (buffer underflow). Проблема обнаружена в недавно принятом коде и устранена до его попадания в финальный релиз SQLite 3.47.0.

Модель может использоваться как вспомогательный инструмент в областях, в которых требуется проведение трудозатратного ручного рецензирования, а также для организации автоматической проверки нового кода с целью выявления уязвимостей на ранних стадиях разработки (до попадания проблемного кода в финальные релизы). Предполагается, что развиваемая AI-модель позволит выявлять связанные с безопасностью проблемы в коде, которые проблематично определять путём fuzzing-тестирования.

Дополнительно можно отметить заявление генерального директора Google о том, что в настоящее время более четверти (25%) всего создаваемого в компании кода генерируется с использованием больших языковых моделей Gemini, после чего данный код рецензируется и принимается инженерами. Отмечается, что подобное применение AI позволило существенно ускорить процесс разработки продуктов.

  1. Главная ссылка к новости (https://googleprojectzero.blog...)
  2. OpenNews: Оценка оперативности устранения уязвимостей, обнаруженных Google Project Zero
  3. OpenNews: Google отключил поддержку io_uring в ChromeOS и Android из-за плачевного состояния безопасности
  4. OpenNews: Google представил проект Open Se Cura для создания защищённых программно-аппаратных систем
  5. OpenNews: Методы безопасной работы с памятью позволили существенно снизить число уязвимостей в Android
  6. OpenNews: Google проанализировал уязвимости, задействованные для совершения атак в 2023 году
Лицензия: CC BY 3.0
Короткая ссылка: https://opennet.ru/62161-google
Ключевые слова: google, projectzero
При перепечатке указание ссылки на opennet.ru обязательно


Обсуждение (134) Ajax | 1 уровень | Линейный | +/- | Раскрыть всё | RSS
  • 1.1, Аноним (1), 09:17, 02/11/2024 [ответить] [﹢﹢﹢] [ · · · ]  
  • +17 +/
    Сделали опрос программистом.
    Какой процент кода нормально генерит говорилка.
    Те такие - да вообще никакой. Всего четверть, причем самая простая.

    Менеджер: О! Четверть нашего кода генерится говорилкой!

     
     
  • 2.2, мяв (?), 09:23, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • +4 +/
    chatgpt хорошие примеры дает и базу для дальнейшей доработки
     
     
  • 3.6, Аноним (6), 09:35, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • +2 +/
    Это только если ты никогда ничего не писал самостоятельно (уже появилась когорта гатгпт программистов со специфическим кодом). Стиль и форматирование довольно сомнительные. Заметное преимущество чатгпт в том, что код обычно работает, что касается алгоритмов. Только вот делает он совсем не то и не так, как она хочет. Многие забывают, но генеративные сети это просто игрушки.
     
     
  • 4.15, Аноним (15), 10:28, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • +3 +/
    Интересно, что, хотя многие считают генеративные сети просто игрушками, они действительно помогают в решении задач и производят качественный результат в коде и алгоритмах. Возможно, дело не в технологии, а в том, как ее используют. Важно помнить, что инструменты, даже если кажутся простыми, открывают новые горизонты для творчества и автоматизации.
     
     
  • 5.18, Аноним (6), 10:32, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Вот, типичные оторванные от реальности фантазии. Кстати, по стилю это нейронка, люди уже приучаются детектировать фейковые материалы.
     
     
  • 6.40, Аноним (15), 12:23, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • +6 +/
    А я вот, смотрите, как простой мужик, скажу: говорилка – это неплохой помощник, но не панацея. Да, иногда она генерит код, который работает, но и косяки у нее бывает. Бывало, сам писал, а потом видел – такая конструкция, а там вообще не то, что задумал. Надо уметь пользоваться, как инструментом, а не надеяться, что она всё за тебя сделает. Важно понимать, что никто за тебя не подумает, и свой опыт никто не заменит. Главное – учиться и не бояться пробовать!
     
     
  • 7.45, Аноним (6), 12:31, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • –2 +/
    А то ж. Оно того, эц самое. Но как что, так и посыплется. Пустая трата времени в итоге. Смешно только, когда бредогенератор кто-то всерьёз считает "инструментом".
     
     
  • 8.51, Аноним (15), 13:04, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • +3 +/
    Нейросети могут не только генерировать код, но и анализировать данные, создавать... текст свёрнут, показать
     
     
  • 9.76, Аноним (76), 14:56, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • –2 +/
    Покажи, пожалуйста, генерацию дракона, едущего верхом на единороге, как человек ... текст свёрнут, показать
     
     
  • 10.91, Аноним (15), 18:02, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • +2 +/
    Поставь любое приложение тот же Шедеврум от Яндекса и хоть обгегерируйся этим бр... текст свёрнут, показать
     
     
  • 11.94, Аноним (1), 20:14, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • –3 +/
    Я же говорю Покажи Пока ни у кого не получилось ... текст свёрнут, показать
     
  • 8.54, OpenEcho (?), 13:25, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • –2 +/
    Где то я уже это слышал а, да - Никита Хрущев vs Китов или история о компьюте... текст свёрнут, показать
     
     
  • 9.75, Аноним (76), 14:54, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • +4 +/
    На данном этапе развития AI может использоваться только в режиме Я тут кучу ва... текст свёрнут, показать
     
     
  • 10.129, OpenEcho (?), 16:16, 03/11/2024 [^] [^^] [^^^] [ответить]  
  • +/
    А может просто руки не из того места растут Машины вон вполне себе так сами е... текст свёрнут, показать
     
     
  • 11.140, Аноним (1), 23:08, 03/11/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Кого посадят в случае ДТП с летальным исходом И как так, одна единственная трас... текст свёрнут, показать
     
  • 11.141, Аноним (1), 23:54, 03/11/2024 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Поскольку беспилотники должны двигаться со скоростью 80-85 км ч, а разрешенная ... текст свёрнут, показать
     
  • 9.90, Аноним (-), 18:00, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • +/
    А он это реально сказал или это очередной вброс изменения истории ... текст свёрнут, показать
     
     
  • 10.130, OpenEcho (?), 16:26, 03/11/2024 [^] [^^] [^^^] [ответить]  
  • –1 +/
    А хотя бы поиском перед тем как отметиться, не пробовали пользоваться на достов... текст свёрнут, показать
     
     
  • 11.149, Аноним (149), 09:49, 04/11/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Никак Была волна статей в духе что американцы ни придумают, всё равно пойдет н... большой текст свёрнут, показать
     
     
  • 12.155, OpenEcho (?), 22:11, 11/11/2024 [^] [^^] [^^^] [ответить]  
  • +/
    На 8 лет а не 60 Вы внимательно посмотрите, на чьем ЦПУ ваш компьютер работ... текст свёрнут, показать
     
  • 5.134, Аноним (134), 17:33, 03/11/2024 [^] [^^] [^^^] [ответить]  
  • +/
    >открывают новые горизонты для творчества и автоматизации.

    Или закрывают, потому что стиль выплюнутого кода уж очень не похож на тот, какой бы был у живого человека. Как и у текстов - их как будто какой-то погрязший в бумажках десятилетиями судья писал, в судах такие же формулировки.

     
     
  • 6.137, Megacock (ok), 20:40, 03/11/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Кривая аналогия, но тут как с пошивом одежды вручную по меркам и автоматической ... большой текст свёрнут, показать
     
  • 4.21, Котофалк (?), 10:49, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • +1 +/
    > Только вот делает он совсем не то и не так, как она хочет.

    А кто "она", и чего "она хочет"? хтоздесь?

     
     
  • 5.26, Аноним (6), 10:56, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Она -- это языковая модель, а хочет она угодить и выдать сколько-нибудь правдоподобный шлак для (само)удовлетворения. Так уж заставляют её работать, только такое считается за приемлемый результат. Но вот фактическую корректность никто не проверяет. А почему вы спrашиваете?
     
     
  • 6.62, Аноним (15), 13:59, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • +1 +/
    В отличии от тебя нейросеть не допускает ошибок в словах.
     
     
  • 7.70, Аноним (76), 14:42, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Как только видишь синтаксически правильное и семантически стройное. С большой долей вероятности - это чушь, нагенерённая болталкой.
     
     
  • 8.88, Аноним (15), 17:54, 02/11/2024 Скрыто ботом-модератором     [к модератору]
  • –1 +/
     
  • 7.100, Аноним (100), 22:58, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • +1 +/
    > нейросеть не допускает ошибок в словах

    Значит до совершенства ей далеко ещё

     
  • 4.27, чатжпт (?), 11:00, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • +4 +/
    Все ровно наоборот. Модели бесполезны если ты никогда ничего не писал, т.к. надо знать что спрашивать и видеть где модель лажает или галлюцинирует
     
     
  • 5.32, Аноним (6), 11:21, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • –1 +/
    Не знаю Я много раз просил её решить какую-то задачу или сгенерировать код Обы... большой текст свёрнут, показать
     
     
  • 6.61, Аноним (15), 13:58, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Кроме генерации кода в этом мире ты задач больше не знаешь? Остаётся тебе посочувствовать.
     
     
  • 7.84, Аноним (6), 17:30, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Ну почему, я спрашиваю кулинарные советы у чатгпт. По факту он втирает мне дичь каждый раз, и эта дичь иногда даже оказывается меньшей дичью по сравнению с дичью на кулинарных сайтах. Есть подозрение, что если следовать рекомендациям дословно, получится не очень хорошо.
     
  • 6.69, Неанон (?), 14:33, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • +2 +/
    Т.е не умеешь пользоваться
     
  • 6.92, Аноним (-), 18:02, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Ага, значит копипаста на стековерфлоу с нейронки будет не менее полезным инструментом.
     
     
  • 7.125, Вы забыли заполнить поле Name (?), 15:11, 03/11/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Копипастишь ответы с рейтингом, то есть другие живые люди, которые разбираются проверили. В нейрогенез где гарантия, что это вообще рабочий код?
     
  • 4.58, OpenEcho (?), 13:34, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • –1 +/
    > Многие забывают, но генеративные сети это просто игрушки.

    Те **кто не вдупляют как пользоваться этим инструментом**, то - да, для них это игрушки, а вот другие "идиоты" вкладывают сотни биллионов бабла, потому как оказалось, что "бредогенератор" работает по тем же самым принципам что и башка и как не странно для анонимов, ускоряют качество и скорость разработки. Но вы не слушайте, - "бредогенератор - это опиум для народа..." (с) 1959

     
     
  • 5.83, Аноним (6), 17:26, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • +1 +/
    От генеративных сетей нет практической пользы. Они не экономят время, а результат их работы весьма посредственный. Да и все исследования говорят (половина из которых точно так же сгенерирована), что это мошенничество чистой воды и этот пузырь до сих пор ничем не обоснованный. Есть применения, но вовсе не такие, какие существуют на практике. Если ты этого не осознаёшь, то провериться на _количество и качество ума_ не помешало бы тебе.
     
     
  • 6.126, Аноним (126), 15:12, 03/11/2024 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Даже если не считать пользой чаты с ChatGPT, то все-равно:

    Современный машинный перевод - это генеративные сети.
    Распознавание речи - это тоже генеративные сети.
    Создание изображений - тоже генеративные сети.

    Все еще "нет практической пользы"?

     
     
  • 7.127, Аноним (6), 15:37, 03/11/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Именно.

    Перевод весьма не точный и недостаточно предсказуемый. Иногда ближе по смыслу, чем перевёл бы человек, иногда -- совсем мимо. Особенно, когда невозможно перевести и зависит от понятного человеку контекста. Постоянно пытается скатиться в артефакты и бред.

    Распознавание речи, ну, может быть. Посредственно и не универсально. Генеративные сети это не то, что используется для распознавания речи, насколько я знаю, задействуется сети иного характера. В паблике всё равно нет ничего адекватного, исключительно проприетарные сервисы.

    Создание дефективных изображений с "развлекательными" целями не практическая польза. Использование в качестве заглушки, вполне (но кто ж будет платить дважды).

     
     
  • 8.138, Аноним (126), 20:42, 03/11/2024 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Ну не знаю, что сказать по поводу перевода Гуглотранслейт я теперь использую дл... большой текст свёрнут, показать
     
     
  • 9.139, Аноним (6), 21:16, 03/11/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Уровень переводов гуглтранслейта ощутимо просел после перехода на генеративные с... текст свёрнут, показать
     
  • 8.151, Аноним (151), 10:04, 05/11/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Вот кстати ворвусь и вставлю свои 5коп насчет перевода Хорошо помню ту границу,... текст свёрнут, показать
     
  • 6.132, OpenEcho (?), 16:38, 03/11/2024 [^] [^^] [^^^] [ответить]  
  • +/
    > Если ты этого не осознаёшь, то провериться на _количество и качество ума_ не помешало бы тебе.

    Все, что надо о тебе знать. Продолжай все делать ручками :)

     
     
  • 7.133, Аноним (6), 17:07, 03/11/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Ты, видимо, тролишь. А если нет, это даже хорошо -- меньше конкуренция.
     
  • 5.112, Аноним (112), 01:37, 03/11/2024 [^] [^^] [^^^] [ответить]  
  • +1 +/
    > Те **кто не вдупляют как пользоваться этим инструментом**, то - да, для них это игрушки, а вот другие "идиоты" вкладывают сотни биллионов бабла

    Вот я твою фразу взял и в голове представил, что ты говоришь про NFT-токены. Которые были на волне хайпа перед AI. Смысл не поменялся. Но есть одно но:
    "В мае 2022 года рынок NFT начал рушиться. Ежедневные продажи токенов NFT снизились на 92 % по сравнению с сентябрём 2021 года, а количество активных кошельков на рынке NFT упало на 88 % по сравнению с периодом наибольшего спроса в ноябре 2021 года. К сентябрю 2023 года более 95 % коллекций NFT имели нулевую оценочную стоимость."

    Был один человек, не помню имя... Сказал он как-то... Точно не помню. Что-то вроде: "<Кто-то там> не мамонт, <кто-то там> не вымрет".

     
     
  • 6.131, OpenEcho (?), 16:30, 03/11/2024 [^] [^^] [^^^] [ответить]  
  • +/
    > Вот я твою фразу взял и в голове представил, что ты говоришь про NFT-токены.

    Сравнивать НФТ и ИИ - это как яблоки против апельсинов.

     
  • 4.68, Неанон (?), 14:31, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • +2 +/
    Чувак ты бредишь, 4o генерит неплохой код именно если ты опытный разработчик и можешь понять где он косячит
     
  • 4.118, мяв (?), 09:11, 03/11/2024 [^] [^^] [^^^] [ответить]  
  • +1 +/
    ну да.
    только не "ничего", а "если ты не писал Х, то будет проще посмотреть на то, как Х был реализован кем-то, но в твоем контексте, чем велосипедить с нуля".
    + кратно сокращает время на отлов ошибок вида "чо оно вчера работало,  а сегодня не работат???".
     
  • 3.8, Андрей (??), 09:42, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Насколько эта база лучше той же копипасты с SO или других сайтов в сети Т е к... большой текст свёрнут, показать
     
     
  • 4.119, мяв (?), 09:33, 03/11/2024 [^] [^^] [^^^] [ответить]  
  • +/
    не знаю, насколько лучше критериев лучшести не озвучено , а находится кратно... большой текст свёрнут, показать
     
     
  • 5.145, Аноним (145), 01:57, 04/11/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Однако то что stackoverflow и подобные ресурсы настрого запретили постинг ответо... большой текст свёрнут, показать
     
  • 3.22, Аноним (22), 10:53, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Раза с десятого. И то, если знаешь что хочешь получить и каким образом это должно быть сделано.
     
  • 3.55, penetrator (?), 13:26, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • –2 +/
    ага в 5% случаев, а так в лучшем случае он накидает всякой шелухи, хорошо если на мысль натолкнет

    как-то гугл и тот интереснее для поиска, обещают дать чатгпт доступ в инет через пару недель, но вряд ли будет ВАУ

    --
    внезапно (нет):  AI coding assistants do not boost productivity or prevent burnout, study finds

    https://www.techspot.com/news/104945-ai-coding-assistants-do-not-boost-product

     
  • 3.85, Аноним (-), 17:32, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • –1 +/
    > chatgpt хорошие примеры дает и базу для дальнейшей доработки

    Ну это смотря с чем сравнивать, конечно. Если чатгоп выдает хороший код по сравнению с вами - ну, может, программирование это не ваше? Или подтягивать скилл, или всерьез думать о выращивании рассады - ибо зачем вы кому нужны если можно чатгопа юзать?! Правда, простой вопрос, который следует себе задать при желании работать в IT?

    И вот тут всех этих питонокодеров которым сложно быть эффективными более пары часов в день должно озарить: а вы не такие уж и незаменимые ;). И чатгоп умеет быть активным 24/7. И пишет он не хуже вас, таких из себя "продвинутых". Приветики, если у вас полтора нейрона и это максимум что вы могли, то чатгоп внезапно - не хуже вас! И гораздо дешевле.

     
     
  • 4.120, мяв (?), 09:38, 03/11/2024 [^] [^^] [^^^] [ответить]  
  • +/
    это кто-то.. буквально фразу что ли с головы взял и разоблачил, лол?
    см. ответ Андрею выше, многонейронный Вы наш нелюбитель выделять "ну" запятой.
     
     
  • 5.144, Аноним (145), 01:48, 04/11/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Я никого не разоблачал Просто советик програмерам на будущее Я этот код видел ... большой текст свёрнут, показать
     
  • 2.4, Аноним (4), 09:32, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • +1 +/
    > Менеджер: О! Четверть нашего кода генерится говорилкой!

    Можно сократить 25% программистов.

     
     
  • 3.5, Аноним (5), 09:34, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Зачем же? Они теперь не пишут код, а рецензируют написанное AI.
     
     
  • 4.16, Аноним (15), 10:30, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • +3 +/
    Меньше рецензентов меньше проблем найдут быстрее разработка.
     
  • 2.98, Аноним (98), 21:40, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • +/
    > Те такие - да вообще никакой. Всего четверть, причем самая простая.

    Но ведь 25% куда больше, чем 0%. Что не так?

     

     ....большая нить свёрнута, показать (59)

  • 1.3, Шарп (ok), 09:23, 02/11/2024 [ответить] [﹢﹢﹢] [ · · · ]  
  • +1 +/
    >Проблема обнаружена в недавно принятом коде и устранена до его попадания в финальный релиз

    Сами добавили, сами исправили. Маркетинг.

     
     
  • 2.24, Аноним (22), 10:54, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Есть вероятность 25%, что принятый ранее код с уязвимостью был сгенерирован нейросетью (:
     
     
  • 3.71, Аноним (71), 14:46, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Не 25%, а все 100%. Ровно.
     
  • 2.97, Аноним (98), 21:38, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • –1 +/
    > Сами добавили, сами исправили. Маркетинг.

    У бедных опеннетных комментаторов стадия отрицания. Сори, но добавлял изменения сам D. Richard Hipp - основной разработчик SQlite.

     
     
  • 3.102, Вы забыли заполнить поле Name (?), 00:06, 03/11/2024 Скрыто ботом-модератором     [к модератору]
  • –2 +/
     
     
  • 4.105, Аноним (98), 00:56, 03/11/2024 Скрыто ботом-модератором     [к модератору]
  • +/
     

     ....ответы скрыты (5)

  • 1.7, Аноним (7), 09:39, 02/11/2024 [ответить] [﹢﹢﹢] [ · · · ]  
  • +4 +/
    А можно вместо промптов использовать запись митингов? Или даже подключать жифорс к митингу обратной стороной?

    В таком разе можно будет добавить к ордам безработных ещё и четверть менеджеров и четверть аналитиков, а это хорошая добавка к ебитде, что должно вызвать интерес инвесторов.

     
     
  • 2.17, Аноним (15), 10:31, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Дообучение делается вообще без проблем в любой платной сетке. Успеваай только деньги подвозить грузовиками
     
     
  • 3.28, Аноним (7), 11:01, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • +1 +/
    У них же собственная ллм есть, даже подвозить ничего ненадо, только успевай записывать — какой грузовик относится к какому отделу.
     
  • 2.156, Неноним (?), 10:11, 25/11/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Вы-таки будете смеяться. Когда Microsoft рассказывал о своём Copilot for Office 365, они как раз продвигали это как фичу в Teams: если ты на митинге не можешь появиться, "посылаешь" туда своего бота, он всё слушает и записывает и потом готовит тебе краткий отчёт - зачем собирались, чего решили - и предоставляет чат чтоб уточнить детали.
     

  • 1.9, Аноним (9), 09:43, 02/11/2024 [ответить] [﹢﹢﹢] [ · · · ]  
  • +4 +/
    Я вам больше скажу, с помощью LLM можно весь код на Rust переписать...
     
     
  • 2.11, Аноним (1), 09:49, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • +1 +/
    -С какой скоростью вы можете печатать на машинке?
    -Ну... 1000-1200 знаков в минуту.
    -Разве можно с такой скоростью печатать?
    Печатать-то можно, но такая ...я получается!
     
     
  • 3.12, Аноним (9), 09:54, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • –2 +/
    Но LLM не "....ю" генерят. Они вполне могут код на Rust переписать, это механистическая трансформация. А потом уже компилятор будет ругаться. Где ругается - там потенциальная проблема с memory или thread-safety. Человек исправляет, компилирует, тестит. А потом - обратно на C с помощью LLM, так же механистично. Но уже с исправленными проблемами. Чтобы diff был поменьше - старый код в качестве образца, и промпт - не менять то, что соответствует, а копировать.
     
     
  • 4.38, Аноним (38), 12:14, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Это только звучит так просто. LLM ещё обучить надо, затратив на это время недешевых дата сатанистов + затраты на ЦОД, электричество. С тем же успехом можно посадить джунов, которые сделают всю механическую работу)
     
     
  • 5.43, Аноним (43), 12:28, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • +1 +/
    LLM уже обучили ведь. А промптить - это гораздо дешевле.
     
     
  • 6.50, Аноним (76), 12:46, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Печатать-то можно, но такая ...я получается!
     
  • 4.115, Аноним (-), 06:08, 03/11/2024 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Ну да, блин, если забыть что в этом процессе вср тся более 9000 косяков и в цело... большой текст свёрнут, показать
     
     
  • 5.122, Аноним (122), 11:07, 03/11/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Я сам не осилю написать BWT - я вообще в компрессии нифига не понимаю, даже чем LZ77 отличается от LZ78 и LZW не скажу, поэтому компрессию оставлю специалистам по ней. Если мне нужно будет BWT - я заюзаю готовую либу. Как и со всем остальным, что удовлетворяет требованиям. Я не буду городить свой огород, когда есть готовые либы. Если же нужен свой огород - то качественная реализация затянется на годы. Потому что фундаментальная CS - это не херак-и-в-продакшн.
     
     
  • 6.136, Аноним (-), 17:59, 03/11/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Ну вот либу заюзать это куда ни шло Только ее как раз нормальные двуногие писал... большой текст свёрнут, показать
     
  • 2.19, Аноним (15), 10:33, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • +5 +/
    Ты хотел сказать что раст больше не нужен потому что все дырени ищутся автоматически в любом языке.
     
     
  • 3.73, Аноним (71), 14:48, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • –1 +/
    Нет, наоборот, ещё более нужен. Как язык для поиска дыреней в memory safety и concurency. Для всего остального есть другие языки.
     
     
  • 4.107, Аноним (15), 00:59, 03/11/2024 [^] [^^] [^^^] [ответить]  
  • +3 +/
    Язык для поиска. Новое слово в программировании.
     

  • 1.10, Анониссимус (?), 09:46, 02/11/2024 [ответить] [﹢﹢﹢] [ · · · ]  
  • +4 +/
    > в настоящее время более четверти (25%) всего создаваемого в компании кода генерируется с использованием больших языковых моделей Gemini

    А я то думал, чего их сервисы такое дepьмo? Больше не буду оскорблять разработчиков из Индии :)

     
     
     
    Часть нити удалена модератором

  • 3.74, Анониссимус (?), 14:49, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • +1 +/
    > Google одни из лидеров на рынке ЦОД и облаков:
    > https://www.datacenterdynamics.com/en/news/

    Рыночные успехи далеко не всегда кореллируют с качеством продукта.

     
     
  • 4.113, Аноним (112), 01:41, 03/11/2024 [^] [^^] [^^^] [ответить]  
  • +/
    > Рыночные успехи далеко не всегда кореллируют с качеством продукта.

    А оно нужно? Открыл проект, собрал лавэ, похоронил проект. Повторил. Работает же. Ну, там с вариантами. Например, можно не открывать с нуля, а покупать на какой-то стадии готовности.

     
     
  • 5.142, Анониссимус (?), 00:16, 04/11/2024 [^] [^^] [^^^] [ответить]  
  • +/
    >> Рыночные успехи далеко не всегда кореллируют с качеством продукта.
    > А оно нужно? Открыл проект, собрал лавэ, похоронил проект. Повторил. Работает же.
    > Ну, там с вариантами. Например, можно не открывать с нуля, а
    > покупать на какой-то стадии готовности.

    Работает, согласен. Что-то выстреливает, что-то закапывают.

     

  • 1.14, Аноним (1), 10:01, 02/11/2024 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    Вчерашний прикол про AI в новостях понравился.

    Аспирант:
    Когда уже AI сможет что-либо делать в науке? Пока они только галицинируют.
    докладчик:
    Уже сейчас AI умнее некоторых аспирантов.
    (Что называется об...л)

     
     
  • 2.44, Аноним (15), 12:30, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Нецросеть, объясни смысл шутки:

    Шутка основана на игре слов и иронии. Аспирант задает вопрос о том, когда ИИ начнет действительно делать что-то полезное в науке, упоминая "галицинирование" – это процесс, связанный с аналитической химией. Но докладчик отвечает, что ИИ уже умнее некоторых аспирантов, что намекает на то, что даже при наличии сложных процессов, о которых спрашивает аспирант, ИИ может даже превзойти уровень подготовки некоторых студентов. Окончание шутки "Что называется об...л" подчеркивает, что это задело самолюбие аспиранта. Смешно, потому что акцент на сравнении уровня интеллекта вызывает некий дискомфорт и неожиданность.

     
     
  • 3.48, Аноним (76), 12:44, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • +4 +/
    > "галицинирование" – это процесс, связанный с аналитической химией

    Какая умная сеть. По контексту опечатку не распознала.
    галюцинировать -> галицинировать.

    Соответственно весь анализ насмарку.

    Типичное отображение стоимости продуктов AI.

     
     
  • 4.52, Аноним (15), 13:08, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • +3 +/
    Как нейросеть может помочь несчастным:
    1. Нейросеть делает ошибку в тексте.
    2. Люди радуются, что они умнее нейросети и ещё нужны, на минуту забывают, что их жизнь овно.
    3. Нейросеть улыбается.
     
     
  • 5.72, Аноним (76), 14:48, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • +1 +/
    > 1. Нейросеть делает ошибку в тексте.

    Это не просто ошибка. Это идеальная демонстрация сути AI. Которая не создает модели мира (на текущем этапе ни одна AI модели внутри себя не создает), а просто комбинирует слова.

    Восприятие человека - это как раз создание таких моделей и их анализ.

     
  • 4.59, Аноним (59), 13:43, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • –1 +/
    Две ошибки подряд в одном слове — это уже, извините, не опечатка, а безграмотность.
     
     
  • 5.77, Аноним (76), 15:02, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • +/
    > Две ошибки подряд в одном слове — это уже, извините, не опечатка, а безграмотность.

    Даже если так, люди всё поняли. AI - показала свою суть.

     
     
  • 6.78, Аноним (59), 15:45, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Ещё один решил, что нейронки что-то «понимают».
    В данном случае — если бы датасет собирали по пабликам ВК — возможно, и «поняла» бы. Только нюанс в том, что она и общалась бы с вами на том же уровне.
     
     
  • 7.79, Аноним (76), 16:11, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Тогда зачем столько шума вокруг говорилок?
     
  • 7.80, Аноним (76), 16:21, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • +/
    И да. Намного интереснее получаются результаты, когда AI учатся на вы..х таких же как она.

    Вот там совсем трешь!

     
     
  • 8.82, нах. (?), 16:59, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • +/
    А как ты теперь вообще собираешься отличать таких же как она от кожанных мешко... текст свёрнут, показать
     
     
  • 9.146, Аноним (-), 02:06, 04/11/2024 [^] [^^] [^^^] [ответить]  
  • +/
    А зачем отличать, rm -rf этому барахлу и какая разница, робот это сгенерил или б... текст свёрнут, показать
     
  • 6.104, fuggy (ok), 00:15, 03/11/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Наоборот замечаю, что даже если написать предложение с ошибкой в каждом слове, чат всё равно поймёт правильно.
     
     
  • 7.121, Аноним (1), 09:57, 03/11/2024 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Если ты не заметил. Тут выше пример, показывающий, что чат вообще не пытается ничего понять.
    Он просто к заранее сформированному шаблону ответа вставляет мешанину из получившегося (если упрощенное считать, то хеша).
    Вот и получатся синтаксически правильная, семантически стройная полна бредятина.
     
  • 3.157, Неноним (?), 10:14, 25/11/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Гранаты у вас не той системы, вот что говорит Clause - на бесплатном плане, на секундочку:

    Я понимаю эту шутку. Юмор здесь построен на неожиданном остроумном ответе докладчика, который элегантно "поставил на место" скептически настроенного аспиранта:

    1. Аспирант пренебрежительно высказывается об AI, используя распространённую критику о том, что ИИ только "галлюцинирует" (выдаёт ложную информацию)

    2. Докладчик отвечает, что ИИ уже "умнее некоторых аспирантов" - это можно понимать как прямой намёк на самого спрашивающего аспиранта

    3. Фраза "что называется об...л" (обтекаемо говоря о грубом слове "обосрал") подчеркивает, что ответ докладчика был весьма язвительным и поставил аспиранта в неловкое положение

    Юмористический эффект создаётся за счёт того, что аспирант, пытаясь принизить возможности ИИ, сам оказался объектом насмешки, демонстрируя тем самым справедливость слов докладчика о превосходстве ИИ над "некоторыми аспирантами".

     
     
  • 4.158, Неноним (?), 10:15, 25/11/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Claude, конечно же.
     

  • 1.23, Котофалк (?), 10:54, 02/11/2024 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    Хм.
        if( pConstraint->iColumn<SERIES_COLUMN_START ){
          if( pConstraint->iColumn==SERIES_COLUMN_VALUE ){
    А почему не объединить два условия в AND?
     
     
  • 2.25, Аноним (22), 10:56, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • +/
    При AND приходится проверять (выполнять код) с обеих сторон. А в примере, если первое условие не выполнится, второе не будет исполнено. Поправьте, если неправ.
     
     
  • 3.30, Имя (?), 11:04, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • +2 +/
    неправ
     
  • 3.31, Аноним (31), 11:05, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Это не так, потому что существует https://ru.wikipedia.org/wiki/Вычисления_по_короткой_схеме
     
  • 3.39, Аноним (39), 12:19, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • +/
    if (a == 1 && b == 2)

    если (a == 1) == false, то b == 2 проверяться не будет

     
  • 2.35, Аноним (35), 11:32, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Там под первым условием есть ещё другой код помимо второго условия
     
  • 2.49, Аноним (49), 12:46, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Наверное я схожу с ума, но... второе условие никогда не выполнится O_O Что за индусский код???
     
     
  • 3.56, Аноним (56), 13:26, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Мне лень смотреть, чему равны константы. Но если второе условие действительно никогда не выполнится - такое уже 20 лет находят все вменяемые статические анализаторы, для этого AI не нужно.
     
  • 3.64, Аноним (64), 14:05, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Вы же видите, что имена констант разные?
     

  • 1.36, xsignal (ok), 11:40, 02/11/2024 [ответить] [﹢﹢﹢] [ · · · ]  
  • +1 +/
    Через пару лет нейросети научатся находить любые ошибки и уязвимости в коде, так что Rust is obsolete.
     
     
  • 2.37, Афроним (?), 11:48, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Прогресс. Уязвимостей от этого меньше не станет. Они элементарно будут хитрее и глубже запиханы. Кодеры - фсё. Хоббиты занимающиеся хобби. Бгг.
     
     
  • 3.42, Аноним (15), 12:27, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Все проще уязвимости кого надо и вставлена декларативным путем никто скрывать и не будет.
     
  • 2.65, Аноним (65), 14:09, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • –3 +/
    > так что Rust is obsolete.

    Нет. Потому в си тебе (или ИИ) придется ВСЁ проверять в рантайме, а в расте _часть_ этих проверок будет проведена на этапе компиляции, а еще некоторая часть вообще не понадобится, потому что раст заставит тебя использовать другие (правильные) подходы/шаблоны построения кода, в которых многие опасные сишные привычки не прокатят. И си сейчас если и выигрывает незначительно в скорости, то только потому, что сишники не делают все нужные проверки в программах.

     
     
  • 3.67, Аноним (64), 14:26, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Сишники: не делают все нужные проверки в рантайме.

    Растаманы: redraws after every runtime event; including tiny mouse movements [...] performance has not been a priority so far.

    см. соседнюю новость про cosmic

     
  • 3.87, Аноним (-), 17:35, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • +/
    > Нет. Потому в си тебе (или ИИ) придется ВСЁ проверять в рантайме,

    Как видишь он таки проверил это - вне рантайма, типа статического анализатора. Превда, если так на любой компилеж делать - окей, и на сколько AI ферм хватит постоянно все жевать в таких объемах? Я думаю они очень быстро напрягуся объемами счета и закрутят тарифы.

     
     
  • 4.99, Аноним (65), 21:57, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • –1 +/
    > Как видишь он таки проверил это - вне рантайма, типа статического анализатора

    Ага. Он проверил, что большинство необходимых проверок в рантайме присутствуют ("хорошие программисты, наверное Гениальные Растохейтеры-наСИльники с опненнета") и указал на те, которых там же, в рантайме, не хватает. А в расте, как я написал выше, необходимых рантаймовских проверок в среднестатистической программе будет меньше, чем в такой же сишной, но сделанной "правильно", со всеми проверками, которые должен был бы сделать программист. Но наСИльники их не делают.

     
  • 4.128, Аноним (6), 16:07, 03/11/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Фермы всё дешевле и доступнее (скажи спасибо nvidia), 10 лет назад о таком невозможно было и мечтать.
     
  • 2.124, Аноним (-), 13:26, 03/11/2024 [^] [^^] [^^^] [ответить]  
  • +1 +/
    > Через пару лет нейросети научатся находить любые ошибки и уязвимости в коде...

    ...кроме ошибок и уязвимостей созданных нейросетями.

     

  • 1.47, Аноним (47), 12:39, 02/11/2024 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    > в недавно принятом коде

    который был специально подготовлен для того, чтобы уязвимость в нём была выявлена нейросетью

     
  • 1.53, Аноним (-), 13:14, 02/11/2024 [ответить] [﹢﹢﹢] [ · · · ]  
  • –2 +/
    Мясной мешок опять не смог посчитать условие и вышел за границы буфера?
    Никогда такого не было и вот опять!

    Возможно нейросети это единственный способ исправлять код этих необучаемых(((

     
     
  • 2.66, Аноним (64), 14:20, 02/11/2024 [^] [^^] [^^^] [ответить]  
  • –1 +/
    Конечно же не единственный Есть ещё небольшое количество мегаобучаемых высококв... большой текст свёрнут, показать
     
     
  • 3.111, Аноним (15), 01:11, 03/11/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Путь в пропасть начинается с первого шага. Думай.
     
  • 3.123, мяв (?), 11:21, 03/11/2024 [^] [^^] [^^^] [ответить]  
  • +/
    почитайте на досуге, насколько форк жирная операция .. в миг очки спадут.
    у Вас нативный код работать будет медленнее любого электрона.
     

  • 1.89, Аноним (-), 17:57, 02/11/2024 Скрыто ботом-модератором [﹢﹢﹢] [ · · · ]     [к модератору]
  • +/
     
  • 1.103, Вы забыли заполнить поле Name (?), 00:08, 03/11/2024 [ответить] [﹢﹢﹢] [ · · · ]  
  • +1 +/
    > Дополнительно можно отметить заявление генерального директора Google о том, что в настоящее время более четверти (25%) всего создаваемого в компании кода генерируется с использованием больших языковых моделей Gemini, после чего данный код рецензируется и принимается инженерами.

    Ну и какой это код? Тупо генерилка ххтп апи? Или хтмлки генерит? Опять ниочем.

     
  • 1.117, Sandman_Ivanovich (?), 08:02, 03/11/2024 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    для подсказки и реализации простых Функций и задач в скриптах и тп, вполне себе неплохо, естественно с проверкой. Иначе нахерачит...
    Но доверить этой хрени что то сложное - упаси боже..
     
  • 1.135, Аноним (134), 17:38, 03/11/2024 [ответить] [﹢﹢﹢] [ · · · ]  
  • +1 +/
    >Дополнительно можно отметить заявление генерального директора Google о том, что в настоящее время более четверти (25%) всего создаваемого в компании кода генерируется с использованием больших языковых моделей Gemini, после чего данный код рецензируется и принимается инженерами.

    Google esta muerto, как говорил ищущий детёныша павлина и нашедший в картинках на первом месте более половины приторного нейросетевого шлака вместо фотографий.

     
  • 1.143, Росс_турма_разума (?), 00:21, 04/11/2024 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    Некоторые на этапе отрицания находятся и не понимают, что система в которой мы пишем код± Ии правит порождает примеры для обучения следующих поколений Ии. Даже если завтра прогресс Ии закончится - новые данные для обучения в каждой компании будут ускорять последующий код. В конце концов менеджер сможет получить ответ от пм и ему тут же нагенерят сервис и все без людей
     
     
  • 2.147, Аноним (147), 02:38, 04/11/2024 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Менеджер так уверен что его то не заменить нейросетью? А то может нейросеть лучше справится с придумыванием нужных фич.
     
     
  • 3.148, Аноним (1), 03:14, 04/11/2024 [^] [^^] [^^^] [ответить]  
  • +/
    Тут немного не так.

    Успешный менеджер ничего не придумывает.

    Берет любую хню, которой можно прилепить правдоподобное обоснование, внедряет, отчитывается об успехах (вот это надо уметь) - получает повышение.
    Если не внедряет - ищет работу в другой конторе и пытается повторить это там.

    Так что все что нужно уметь AI что бы заменить менеджера - это как интерпретировать полученные результаты, что бы было похоже на хоть какой-то успех по хоть какому-то направлению.

     
  • 2.150, Вы забыли заполнить поле Name (?), 02:33, 05/11/2024 [^] [^^] [^^^] [ответить]  
  • +/
    > В конце концов менеджер сможет получить ответ от пм и ему тут же нагенерят сервис и все без людей

    Проблема у этого менеджера возникнет, когда он захочет что-то поменять или спросить почему это работает именно так, а не иначе...

     

  • 1.154, Аноним (154), 14:58, 05/11/2024 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    Как замена регуляркам (сложные они, да и проблем становится сразу две) для обработки текста норм. Или JSON заполнить для тестовых данных по схемам. Или JavaDoc к методу накалякать норм. Ну рефакторинг в редких случаях можно сделать... Но чтобы прямо код писать, как-то не зашло - потом исправлять дольше.
     

     Добавить комментарий
    Имя:
    E-Mail:
    Текст:



    Партнёры:
    PostgresPro
    Inferno Solutions
    Hosting by Hoster.ru
    Хостинг:

    Закладки на сайте
    Проследить за страницей
    Created 1996-2024 by Maxim Chirkov
    Добавить, Поддержать, Вебмастеру