URL: https://www.opennet.dev/cgi-bin/openforum/vsluhboard.cgi
Форум: vsluhforumID3
Нить номер: 133097
[ Назад ]
Исходное сообщение
"Проект OpenAI открыл Transformer Debugger, отладчик для моделей машинного обучения"
Отправлено opennews , 12-Мрт-24 13:46 
Проект OpenAI, занимающийся развитием общедоступных проектов в области искусственного интеллекта, опубликовал отладчик Transformer Debugger, предназначенный для анализа активации структур в языковых моделях машинного обучения при обработке тех или иных данных. Как и в традиционных отладчиках в Transformer Debugger поддерживает пошаговую навигацию по выводу моделей, трассировку и перехват определённой активности. В общем виде Transformer Debugger позволяет разобраться почему языковая модель в ответ на определённый запрос выводит один токен вместо другого или почему модель уделяет большее внимание определённым токенам в запросе. Код написан на языке Python и распространяется под лицензией MIT...

Подробнее: https://www.opennet.dev/opennews/art.shtml?num=60774

Содержание
Сообщения в этом обсуждении
"Проект OpenAI открыл Transformer Debugger, отладчик для моде..."
Отправлено Аноним , 12-Мрт-24 13:46 
Вот что Илон Маск животворящий делает.

[spoiler]Кто не в курсе- он в суд на опенаи подал, мол они недостаточно опенсорсные[/spoiler]

"Проект OpenAI открыл Transformer Debugger, отладчик для моде..."
Отправлено Аноним , 12-Мрт-24 13:50 
Пчеломатка подала в суд на улей? Это фантастика! Будем наблюдать.
"Проект OpenAI открыл Transformer Debugger, отладчик для моде..."
Отправлено Аноним , 12-Мрт-24 14:11 
https://vc.ru/legal/1055980
"Проект OpenAI открыл Transformer Debugger, отладчик для моде..."
Отправлено Аноним , 12-Мрт-24 15:05 
>Это фантастика!

Обычно сие на другом языке употребляют.

"Проект OpenAI открыл Transformer Debugger, отладчик для моде..."
Отправлено Аноним , 12-Мрт-24 16:39 
Es ist fantastisch! В моём любимом немецком порно так говорили.
"Проект OpenAI открыл Transformer Debugger, отладчик для моде..."
Отправлено Аноним , 13-Мрт-24 03:24 
Он подал иск не по этой причине https://habr.com/ru/news/798409/
"Проект OpenAI открыл Transformer Debugger, отладчик для моде..."
Отправлено Аноним , 13-Мрт-24 09:12 
А мне сказал, что поэтому.. странно
"Проект OpenAI открыл Transformer Debugger, отладчик для моде..."
Отправлено Эдди , 13-Мрт-24 09:34 
... это был не он
"Проект OpenAI открыл Transformer Debugger, отладчик для моде..."
Отправлено Xor2003 , 12-Мрт-24 13:48 
Поглядеть бы, как оно в живую работает, очень интересно.
"Проект OpenAI открыл Transformer Debugger, отладчик для моде..."
Отправлено Аноним , 12-Мрт-24 13:54 
Они на чем-то кроме питона умеют разрабатывать? Потом удивляются куда столько вычислительных ресурсов уходит.
"Проект OpenAI открыл Transformer Debugger, отладчик для моде..."
Отправлено Аноним , 12-Мрт-24 14:10 
Ну так они дают всем заработать, и производителям железок, и энергопоставщикам. Даже про углеродный след не забывают, чтобы китайцы потом побольше платили за скопированный ИИ.
"Проект OpenAI открыл Transformer Debugger, отладчик для моде..."
Отправлено Аноним , 13-Мрт-24 01:40 
Всем = своим
китайцы для них сюда не входят и эта вся их суть
"Проект OpenAI открыл Transformer Debugger, отладчик для моде..."
Отправлено Аноним , 13-Мрт-24 07:32 
Ну а кого интересуют пигмеи?
"Проект OpenAI открыл Transformer Debugger, отладчик для моде..."
Отправлено Аноним , 14-Мрт-24 02:47 
Как будто китайцы считают "своими" другие нации.
"Проект OpenAI открыл Transformer Debugger, отладчик для моде..."
Отправлено анон , 12-Мрт-24 14:50 
"ChatGPT ежедневно потребляет в 17 000 раз больше электроэнергии, чем средняя семья в США"

У человечества нет таких ресурсов на эту брутфорсную разрушительную технологию.

"ChatGPT uses 17,000 times the amount of electricity than the average US household does daily: report" Business Insider

Это без учета расхода пресной воды на охлаждение дата центров построенных идиотами в пустыне ближе к потребителю в Кремниевой долине.

"Проект OpenAI открыл Transformer Debugger, отладчик для моде..."
Отправлено Аноним , 12-Мрт-24 16:21 
Сравнение мягкого с теплым, просто великолепный пример журнализдов и хайповых заголовков.
Потребляет в день? В месяц?
На один запрос или за тысячу? Или за делять тысяч?

Если таки пойти в упомянутую статью, то там написано, что такое кол-во энергии оно потребляет 200 million requests a day.
Т.е за энергию которую тратит среднее домохозяйство в день * 17к, железка обрабатывает 200 лямов звпросов.
Даже если представить что один вопрос к чату, это десяток запросов, то оно уже дало ответы 20 миллионам народу.

И уже цифра становится не настолько страшной.

"Проект OpenAI открыл Transformer Debugger, отладчик для моде..."
Отправлено Аноним , 13-Мрт-24 06:02 
> Это без учета расхода пресной воды на охлаждение дата центров построенных идиотами в пустыне ближе к потребителю в Кремниевой долине.

Они то водой поливают стойки, чтобы не перегревались? Вот отсталые, у нас кондиционеры стоят.

"Проект OpenAI открыл Transformer Debugger, отладчик для моде..."
Отправлено Оно ним , 12-Мрт-24 20:49 
Разрабатывали бы на си или расте - до сих пор бы ничего не разработали.
"Проект OpenAI открыл Transformer Debugger, отладчик для моде..."
Отправлено Аноним , 12-Мрт-24 22:15 
Уже существующие и успешно работающие проекты с вами не согласятся.
"Проект OpenAI открыл Transformer Debugger, отладчик для моде..."
Отправлено Аноним , 14-Мрт-24 02:55 
На данный момент OpenAI не разработала никаких проектов на языке программирования Rust и этим все сказано.
"Проект OpenAI открыл Transformer Debugger, отладчик для моде..."
Отправлено голос из леса , 12-Мрт-24 14:03 
Хороший инструмент для цензуры.
"Проект OpenAI открыл Transformer Debugger, отладчик для моде..."
Отправлено Аноним , 12-Мрт-24 14:13 
Оно же опенсорсное, ты можешь натренировать любую модель, какую пожелаешь.
И поместить в интернет на свой сайт "настоящая.правда.ру".
Или распространять, например, через торренты - "власти скрывают! вот можедь которая ответит на все вопросы правду и только правду" и пусть народ сам у себя локально запускает.
"Проект OpenAI открыл Transformer Debugger, отладчик для моде..."
Отправлено Аноним , 13-Мрт-24 03:27 
>пусть народ сам у себя локально запускает

И какие мощности нужны, чтобы такое запустить?

"Проект OpenAI открыл Transformer Debugger, отладчик для моде..."
Отправлено Омномном анон , 13-Мрт-24 08:49 
Старенького Зиона вполне хватает. Но скорость будет низкая - пара токенов в секунду
"Проект OpenAI открыл Transformer Debugger, отладчик для моде..."
Отправлено Аноним , 14-Мрт-24 02:51 
Это чтобы запустить, чтобы обучить нужны миллионы долларов мощностей, и это аренда.
"Проект OpenAI открыл Transformer Debugger, отладчик для моде..."
Отправлено Аноним , 12-Мрт-24 15:02 
Напомните, как называлась та программа, позволяющая удобно посмотреть, что в модель напихано. Что-то не могу найти.
"Проект OpenAI открыл Transformer Debugger, отладчик для моде..."
Отправлено Аноним , 12-Мрт-24 21:26 
ИИ нужно запретить на законодательном уровне и разрешить только для государственных структур типа оборонки. Не все видимо ещё осознали надвигающуюся опасность. У нас на компании более 10 человек были "автоматизированы" в прошлом месяце, я уже тоже мысленно готов искать новую работу. Каким-нибудь сварщиком. Стар я переучиваться да и нет желания делать это в 30+.
"Проект OpenAI открыл Transformer Debugger, отладчик для моде..."
Отправлено Айнанимм , 12-Мрт-24 21:35 
Учиться нужно всегда и не зависимо от возраста! P.S. 50+
"Проект OpenAI открыл Transformer Debugger, отладчик для моде..."
Отправлено Аноним , 12-Мрт-24 21:38 
Учиться в 30+ нужно тому что умеешь, углублять знания, повышать квалификацию. А не с нуля изучать новое. Невозможно быть специалистом сразу во всех сферах.
"Проект OpenAI открыл Transformer Debugger, отладчик для моде..."
Отправлено Anonim , 12-Мрт-24 22:39 
>Каким-нибудь сварщиком

Тех уже давно и всех заменили ИИ.

"Проект OpenAI открыл Transformer Debugger, отладчик для моде..."
Отправлено Аноним , 13-Мрт-24 02:16 
Что-либо запрещать/разрешать это крайности безалаберности управления. Ну запретите ИИ — приостановите науку, а это печально другими последствиями. Модернизация, автоматизация и роботизация рабочих мест неизбежна на любом развивающемся предприятии. А вот увольнение работника (которое не упомянуто, но наверно подразумевается) это проблема. Вот с этой проблемой согласен — на каком основании? Мне самому не нравятся такие предприниматели. И все-таки, если стоит вопрос работы, а где-то сварщики по любому нужны, то возникает вопрос мобильности, а значит стоимости и доступности жилья, вопросы внутренней миграции. За это чиновники отвечают. Есть законодательная власть и исполнительная и вот они уже напринимали все чтобы вы поняли что в таком случае делать и имели какие-либо возможности. А вот что вам в этом случае делать уже зависит от вас — взрослый человек. Эх, эти системы управления никогда не были идеальными в любой стране, но по человечески любого уволенного жаль.
Ну а вот управление разработок ИИ в целом идея здравая. Аналога дарпы везде не хватает, в любом государстве (я не из вашего). Вопросы длительных планов, контроля, стандартизации и централизованного управления кто-то должен решать или в случае НИИ и институтов все-равно кто-то за каждый процесс должен быть ответственен один на процесс (проект). Управлять лучше чем разрешать/запрещать.
"Проект OpenAI открыл Transformer Debugger, отладчик для моде..."
Отправлено Аноним , 13-Мрт-24 10:29 
> нужно запретить вредные государственные структуры типа оборонки

Вот что нужно.

> У нас на компании более 10 человек были "автоматизированы" в прошлом месяце, я уже тоже мысленно готов искать новую работу

Это не повод препятствовать прогрессу (что вообще было бы бесполезно делать).

"Проект OpenAI открыл Transformer Debugger, отладчик для моде..."
Отправлено Аноним , 14-Мрт-24 02:57 
И ткацкие станки запретить, чтобы ткачи не потеряли работу.
"Проект OpenAI открыл Transformer Debugger, отладчик для моде..."
Отправлено Аноним , 14-Мрт-24 04:23 
И книгопечатание запретить, чтобы переписчики книг не потеряли работу.
"Проект OpenAI открыл Transformer Debugger, отладчик для моде..."
Отправлено Вы забыли заполнить поле Name , 12-Мрт-24 23:25 
То есть теперь кто-то сможет понять, что и почему получается на выходе?
"Проект OpenAI открыл Transformer Debugger, отладчик для моде..."
Отправлено Аноним , 14-Мрт-24 03:00 
Нет конечно, ведь у сообщества нет ни весов, ни данных для обучения, только подписка на сервис (сторонники облаков и зондов должны быть счастливы). Поэтому Маск и судится.