URL: https://www.opennet.dev/cgi-bin/openforum/vsluhboard.cgi
Форум: vsluhforumID3
Нить номер: 115731
[ Назад ]

Исходное сообщение
"Новые системы машинного обучения от Fаcebook и Google. Код д..."

Отправлено opennews , 03-Ноя-18 12:33 
Опубликовано несколько новых открытых проектов  в области машинного обучения:

-  DeOldify (https://github.com/jantic/DeOldify) - проект, использующий наработки в области глубинного машинного обучения для автоматического раскрашивания чёрно-белых фотографий и восстановления качества старых изображений. Основной системы является генеративно-состязательная (https://ru.wikipedia.org/wiki/%D0%93%D0%... сеть (GAN), включающая две нейронные сети - одна генерирует образцы, а вторая отбраковывает недостаточно реалистичные результаты.


В разработке используются библиотеки Fast.AI (https://github.com/jantic/fastai),  PyTorch (https://pytorch.org/) и Tensorboard (https://github.com/lanpa/tensorboardX) (надстройка над Tensorflow для PyTorch). Модель обучена на структурированной коллекции изображений ImageNet (http://image-net.org/download). Для повышения качества фотографий используется та же модель, что и для раскраски, которая расширена элементами для корректировки яркости и контраста и обучена с использованием симуляции выцветших фотографий и фотографий снятых на старые или плохие фотоаппараты. Код проекта опубликован (https://github.com/jantic/DeOldify) под лицензией MIT.


-  Компания Facebook открыла (https://code.fb.com/ml-applications/horizon/) исходные тексты платформы Horizon (https://research.fb.com/publications/horizon-facebooks-open-... которая преподносится как первая платформа обучения с подкреплением (https://ru.wikipedia.org/wiki/%D0%9E%D0%... (RL), которую можно использовать для оптимизации систем в крупных промышленных окружениях. Horizon уже более года используется в различных приложениях Facebook для решения таких задач, как персонализация рекомендаций в мессенджере, принятие решений о частоте и доставке уведомлений (пользователь получает только наиболее релевантные уведомления о новых публикациях и комментариях) и оптимизация качества потокового видео (выбор битрейта и корректировка параметров на лету во время воспроизведения видео в режиме 360-градусов на основе оценки качества канала связи и состояния буферизации).

Horizon предоставляет готовые компоненты для обучения с использованием популярных алгоритмов обучения с подкреплением, обработки и преобразования данных, распределённого обучения, выбора оптимальных стратегий и  оптимизации. Платформа рассчитана на решение прикладных задач, в которых фигурируют массивы данных в миллионы и миллиарды наблюдений и
достаточно медленный цикл обратной связи (по сравнению с симулятором).
В отличие от других платформ, которые прежде всего рассчитаны на проведение экспериментов и создание исследовательских прототипов, Horizon  изначально развивается как готовое решение, пригодное для внедрения на предприятиях.


Платформа использует PyTorch 1.0 (https://github.com/pytorch/pytorch) для моделирования и обучения, и применяет  Caffe2 (https://github.com/caffe2/caffe2) для хранения и обработки моделей. Поддерживаются алгоритмы
Q-обучения (https://ru.wikipedia.org/wiki/Q-%D0%BE%D0... (DQN, Deep Q-Network) Discrete-Action DQN, Parametric-Action DQN (https://storage.googleapis.com/deepmind-media/dqn/DQNNatureP... Double DQN (https://arxiv.org/abs/1509.06461), Dueling DQN (https://arxiv.org/abs/1511.06581) и Dueling Double DQN (https://arxiv.org/abs/1710.02298), а также алгоритмы DDPG (https://arxiv.org/abs/1509.02971) (Deep Deterministic Policy Gradient) и SAC (https://arxiv.org/abs/1801.01290) (Soft Actor-Critic). Код платформы написан на языке Python и опубликован (https://github.com/facebookresearch/Horizon) под лицензией BSD.


-  Компания Google опубликовала (https://github.com/google-research/bert) реализацию метода машинного обучения BERT (Bidirectional Encoder Representations from Transformers) и готовые  натренированные модели к нему. BERT позволяет создавать системы для обработки информации на естественном языке (NLP, Natural Language Processing). Например, BERT может применяться для построения автоответчиков, ботов и различных диалоговых систем, отвечающих на задаваемые вопросы и определяющих смысл фраз.

В тесте  SQuAD  F1 решение на базе BERT  продемонстрировало уровень точности ответов на вопросы в 93.2%, что на 2% лучше, чем результат, полученный при прохождении данного теста человеком. В тесте GLUE система BERT показала уровень точности в 80.4% (на 7.6% лучше прошлого рекорда), в тесте MultiNLI - 86.7% (на 5.6% лучше). Система построена на базе фреймворка TensorFlow  и поставляется (https://github.com/google-research/bert) под лицензией Apache 2.0. Для загрузки также доступно несколько натренированных моделей, которые также распространяются под лицензией
Apache 2.0.

URL: https://code.fb.com/ml-applications/horizon/
Новость: https://www.opennet.dev/opennews/art.shtml?num=49550


Содержание

Сообщения в этом обсуждении
"Новые системы машинного обучения от Fаcebook и Google. Код д..."
Отправлено Текстурки не очень , 03-Ноя-18 12:33 
Артефачит нехило, нейронка хуже фотошопера.

"Новые системы машинного обучения от Fаcebook и Google. Код д..."
Отправлено Qwerty , 03-Ноя-18 13:22 
Если свободное сообщество запилит что-то, что будет похоже на это хотя бы на 1/10, то я съем свой галстук.

"Новые системы машинного обучения от Fаcebook и Google. Код д..."
Отправлено Аноним , 03-Ноя-18 13:44 
> Код проекта опубликован под лицензией MIT.

Лицензия MIT недостаточно свободна?


"Новые системы машинного обучения от Fаcebook и Google. Код д..."
Отправлено Qwerty , 03-Ноя-18 17:15 
Я про "свободных энтузиастов", которых так расхваливает сообщество. А этот код написан проклятыми корпорациями. Или вы уже переобулись и теперь Гугл с Фейсбуком белые и пушистые?

"Новые системы машинного обучения от Fаcebook и Google. Код д..."
Отправлено Какаянахренразница , 03-Ноя-18 18:40 
И "сообщество", и "корпорации" состоят из одинаковых элементов. Из людей. И код пишут именно люди, а не абстрактные сообщества/корпорации. Кстати, одни и те же люди зачастую входят в оба множества.

"Новые системы машинного обучения от Fаcebook и Google. Код д..."
Отправлено Vkni , 03-Ноя-18 18:47 
Свободных энтузиастов в OSS всегда было крайне мало. В основном OSS пилят и пилили люди за зарплату. Это делается корпорациями по ряду причин; например, открытый софт и закрытый, в одной и той же корпорации отличается как мёд от дeрьмa - второй просто стыдно показывать.

Но есть, конечно, ниши, где рулят именно энтузиасты - это, например, Scan Kromsator/Scan Tailor. Ничего близкого по качеству корпорации не осилили сделать.


"Новые системы машинного обучения от Fаcebook и Google. Код д..."
Отправлено Аноним , 04-Ноя-18 08:33 
>отличается как мёд от дeрьмa - второй просто стыдно показывать.

Посмотри в сторону реализации DRM для AMDшных карт в линуксовом ядре и скажи это еще раз


"Новые системы машинного обучения от Fаcebook и Google. Код д..."
Отправлено Vkni , 04-Ноя-18 17:37 
> Посмотри в сторону реализации DRM для AMDшных карт в линуксовом ядре и
> скажи это еще раз

Это означает, что внутрикорпоративный софт там вообще ад-и-израиль.


"Новые системы машинного обучения от Fаcebook и Google. Код д..."
Отправлено Аноним , 08-Ноя-18 14:05 
Есть вариант, что нормальные люди не захотели участвовать в этой части проекта, по личным мотивам.

"Новые системы машинного обучения от Fаcebook и Google. Код д..."
Отправлено zoonman , 04-Ноя-18 08:38 
Это сложно сказать, наличие смеси snake_case и СamelCase уже говорит о качестве кода.
Хотя программа выглядит бесспорно впечатляюще.

"Новые системы машинного обучения от Fаcebook и Google. Код д..."
Отправлено Vkni , 04-Ноя-18 17:40 
> Это сложно сказать, наличие смеси snake_case и СamelCase уже говорит о качестве
> кода.

В данном случае это неважно - сделанных корпорациями аналогов, позволяющих что-то подобное просто нет. Ну и вообще, это же не библиотеки.

> Хотя программа выглядит бесспорно впечатляюще.

Там алгоритмы вбиты впечатляющие - результаты работы в библиотеке КОЛХОЗА.


"Новые системы машинного обучения от Fаcebook и Google. Код д..."
Отправлено emg81 , 03-Ноя-18 18:53 
Кто - "вы"? Сам себе придумал гипотетического оппонента?

"Новые системы машинного обучения от Fаcebook и Google. Код д..."
Отправлено Алконим , 03-Ноя-18 14:43 
Покупай галстук из кожи — они легче перевариваются.

https://github.com/satoshiiizuka/siggraph2016_colorization


"Новые системы машинного обучения от Fаcebook и Google. Код д..."
Отправлено Qwerty , 03-Ноя-18 18:05 
Комиты трёхлетней давности. Оно вообще живо? Работает?

"Новые системы машинного обучения от Fаcebook и Google. Код д..."
Отправлено Какаянахренразница , 03-Ноя-18 18:45 
Проверь сам. Скорми ему черно-белую фотку, на которой ты жуешь галстук.

"Новые системы машинного обучения от Fаcebook и Google. Код д..."
Отправлено KOT040188 , 03-Ноя-18 20:16 
Ешь галстук!

"Новые системы машинного обучения от Fаcebook и Google. Код д..."
Отправлено Алексей Михайлович , 03-Ноя-18 22:29 
Ты и сюда добрался. Смотри, и отсюда попрут как миленького, когда задолбаешь всех и вся.

"Новые системы машинного обучения от Fаcebook и Google. Код д..."
Отправлено Аноним , 03-Ноя-18 22:24 
Пожирание галстука отменяется, эх... Для работы этой программы нужен несвободный датасет (CC-NC-SA), так-что попытка хорошая, но мимо - https://github.com/satoshiiizuka/siggraph2016_colorization/b...

"Новые системы машинного обучения от Fаcebook и Google. Код д..."
Отправлено Annoynymous , 04-Ноя-18 13:40 
Лицензии CC — это семейство свободных лицензий.

"Новые системы машинного обучения от Fаcebook и Google. Код д..."
Отправлено Аноним , 05-Ноя-18 04:45 
CC-NC-SA не является свободной! Она не аппрувлена FSF.

"Новые системы машинного обучения от Fаcebook и Google. Код д..."
Отправлено Annoynymous , 05-Ноя-18 15:01 
> CC-NC-SA не является свободной! Она не аппрувлена FSF.

Аппрувленность FSF не требуется для определения свободы лицензии.

Алсо, расшифруй букву «S» в слове FSF и пойми, что FSF вообще не имеет к этому вопросу.


"Новые системы машинного обучения от Fаcebook и Google. Код д..."
Отправлено Аноним , 04-Ноя-18 00:29 
Фото с феями из статьи, обработанное siggraph2016_colorization
http://susepaste.org/images/70831673.jpg

"Новые системы машинного обучения от Fаcebook и Google. Код д..."
Отправлено Аноним , 04-Ноя-18 11:10 
IMHO, так даже лучше -- сети из новости явно переборщили с фиолетовым (например, пальцы и правая нога девушки, держащей руку на поясе)

"Новые системы машинного обучения от Fаcebook и Google. Код д..."
Отправлено Qwerty , 04-Ноя-18 14:39 
> IMHO, так даже лучше -- сети из новости явно переборщили с фиолетовым
> (например, пальцы и правая нога девушки, держащей руку на поясе)

Зато "свободные" сети ни с чем не переборщили и фото по-прежнему осталось чёрно-белым.


"Новые системы машинного обучения от Fаcebook и Google. Код д..."
Отправлено vz_2 , 04-Ноя-18 19:22 
придётся есть, т.к. временные рамки ты не указал

"Новые системы машинного обучения от Fаcebook и Google. Код д..."
Отправлено Qwerty , 05-Ноя-18 11:23 
> придётся есть, т.к. временные рамки ты не указал

Niet. "Старая недоделка" != "полноценный продукт". Я могу создать хэллоуворлд и сказать, что это замена Фотошопу, которого в Линуксе нет, просто он ещё не готов. Или не могу?


"Новые системы машинного обучения от Fаcebook и Google. Код д..."
Отправлено Annoynymous , 05-Ноя-18 15:02 
>> придётся есть, т.к. временные рамки ты не указал
> Niet. "Старая недоделка" != "полноценный продукт". Я могу создать хэллоуворлд и сказать,
> что это замена Фотошопу, которого в Линуксе нет, просто он ещё
> не готов. Или не могу?

Она раскрашивает фото? Раскрашивает. Она даёт результат хотя бы на 10% от другой свободной программы? Даёт.

Иди жри уже.


"Новые системы машинного обучения от Fаcebook и Google. Код д..."
Отправлено Аноним , 03-Ноя-18 13:23 
Можно применить сверху вторую нейросеть, которая будет убирать шумы.

"Новые системы машинного обучения от Fаcebook и Google. Код д..."
Отправлено Алконим , 03-Ноя-18 14:50 
Например, эту: https://github.com/cchen156/Learning-to-See-in-the-Dark

"Новые системы машинного обучения от Fаcebook и Google. Код д..."
Отправлено Аноним , 04-Ноя-18 02:28 
А кто знает, что там на этих фотках сейчас было бы, используй фотограф цветной техпроцесс. В любом случае без артефактов вряд ли обошлось бы, и, скорее всего, они были бы посерьёзнее ошибок сетки. А дорисовать за хорошей нейронкой может оказаться быстрее (т.е. дешевле), чем всё делать руками с нуля.

"Новые системы машинного обучения от Fаcebook и Google. Код д..."
Отправлено Аноним , 03-Ноя-18 13:40 
Конец человечеству, восстание роботов близзко...

"Новые системы машинного обучения от Fаcebook и Google. Код д..."
Отправлено Аноним , 03-Ноя-18 14:33 
Я вот всё джва года жду, чтобы Доктора Стрейнджлава раскрасили.

"Новые системы машинного обучения от Fаcebook и Google. Код д..."
Отправлено A.Stahl , 03-Ноя-18 16:29 
Штирлица тебе мало?

"Новые системы машинного обучения от Fаcebook и Google. Код д..."
Отправлено Аноним , 03-Ноя-18 16:13 
если все так круто с этими вашими нейросетями и прочим, то где онлайн сервисы по расскраске изображений, рассцензурке японской порнографии и т.д.? где они?
ведь даже если 1$ бакс брать за 1 изображение можно нехило так поднять бабла... но их нет почему-то ;)

"Новые системы машинного обучения от Fаcebook и Google. Код д..."
Отправлено Ordu , 03-Ноя-18 16:29 
Дык и что? Выводы-то ты какие делаешь? Эта новость -- фейк?

"Новые системы машинного обучения от Fаcebook и Google. Код д..."
Отправлено Аноним , 03-Ноя-18 17:33 
Сайт запилить это вам не нейросеть натренировать. В представлениях технарей бизнес так легко делается...

"Новые системы машинного обучения от Fаcebook и Google. Код д..."
Отправлено Алконим , 03-Ноя-18 18:56 
> если все так круто с этими вашими нейросетями и прочим, то где
> онлайн сервисы по расскраске изображений, рассцензурке японской порнографии и т.д.? где
> они?

https://demos.algorithmia.com/colorize-photos/


"Новые системы машинного обучения от Fаcebook и Google. Код д..."
Отправлено Vkni , 03-Ноя-18 21:22 
Ну довольно очевидно, что нейросеть не может раскрасить абсолютно правильно эти фотки, т.к. у нее нет контекста. Скажем, если брать того же Штирлица, то правильно раскрасить фельд-грау можно, если предварительно сходить в музей.

Поэтому, скорее всего, еще довольно долго можно будет жить на переводе "оффлайна" в онлайн.


"Новые системы машинного обучения от Fаcebook и Google. Код д..."
Отправлено Аноним , 03-Ноя-18 17:34 
Какой цвет мундира будет у Штирлица по версии Гугла?

"Новые системы машинного обучения от Fаcebook и Google. Код д..."
Отправлено Аноним , 05-Ноя-18 04:47 
Прозрачный

"Новые системы машинного обучения от Fаcebook и Google. Код д..."
Отправлено Anonim , 06-Ноя-18 00:07 
Ну так легко проверить жеж, у них и демка есть..

Вот что они  выдали на первоый кадр из фильма
https://s3.amazonaws.com/algorithmia-demos/colorization/9e26...

Темносиний у него, по этой версии, мундир..


"Новые системы машинного обучения от Fаcebook и Google. Код д..."
Отправлено Аноним , 03-Ноя-18 18:27 
Мне кажется у бабки в миске не паприка, а уголь,не?

"Новые системы машинного обучения от Fаcebook и Google. Код д..."
Отправлено Илья , 03-Ноя-18 18:41 
Скорее всего, так как в этих тазик либо уголь держали, либо свежее выжать белье. А ещё таз у печки стоит. Так что неросети вам ещё и не такое покажут.

"Новые системы машинного обучения от Fаcebook и Google. Код д..."
Отправлено Аноним , 04-Ноя-18 10:40 
Посмотри во что красный превращается на черно-белом фото и удивись.

"Новые системы машинного обучения от Fаcebook и Google. Код д..."
Отправлено A.Stahl , 04-Ноя-18 15:33 
А уголь превращается в перец, а вода в вино?

"Новые системы машинного обучения от Fаcebook и Google. Код д..."
Отправлено имя , 05-Ноя-18 13:38 
забавный случай ненамеренной манипуляции прошлым, если бы не комментарий я бы даже не присмотрелся к тем "яблокам в тазу"

"Новые системы машинного обучения от Fаcebook и Google. Код д..."
Отправлено Андрей , 03-Ноя-18 19:44 
А девушки скорее с красными кружевами были. Так что не, не пойдёт. Разве что для жанра фэнтези.

"Новые системы машинного обучения от Fаcebook и Google. Код д..."
Отправлено Аноним84701 , 04-Ноя-18 01:16 
> А девушки скорее с красными кружевами были. Так что не, не пойдёт.
> Разве что для жанра фэнтези.

Это-то ладно, но вот вряд ли тогда были доступны "воздушно-прозрачные" колготки (см. левую девушку, да и у правой одна нога "просвечивает") или была мода красить ладони/шею (хорошо заметно у правой) ;)


"Новые системы машинного обучения от Fаcebook и Google. Код д..."
Отправлено Андрей , 04-Ноя-18 17:30 
;)

"Новые системы машинного обучения от Fаcebook и Google. Код д..."
Отправлено Аноним , 05-Ноя-18 09:55 
Там, скорее всего, была проблема с материалами для обучения. Сложно найти достаточное количество цветных фотографий из эпохи, когда еще не было цветной фотографии. Поэтому, наверное, обучали на современных фотографиях (уж у гугла/фейсбука с ними проблем нет), в лучшем случае накладывая на них фильтры для состаривания фотографий. Поэтому и цвета одежды могут быть более современными (где-то читал, что раньше розовый цвет ассоциировался с мальчиками, а голубой с девочками. Сейчас наоборот, розовый цвет - девчячий. Т.ч. на фотографии с баллеринами оригинальный цвет, возможно, был голубой, но нейронку обучали на современных фотографиями с детьми и там часто могут попадаться розовые платья)ъ

"Новые системы машинного обучения от Fаcebook и Google. Код д..."
Отправлено Аноним84701 , 05-Ноя-18 14:04 
>  Поэтому и цвета одежды могут быть более современными (где-то читал,
> что раньше розовый цвет ассоциировался с мальчиками, а голубой с девочками.

"Претензии" были не столько к цвету (тут-то и человек далеко не всегда угадает), сколько к "произвольной" раскраске части тел (см. фиолетовые ладони  и шея у девушек и серые зомби-руки женщины).


"Новые системы машинного обучения от Fаcebook и Google. Код д..."
Отправлено Аноним , 07-Ноя-18 20:49 
>когда еще не было цветной фотографии

держи http://www.veinik.by
Прокудин-Горский - пионер цветной фотографии в России


"Новые системы машинного обучения от Fаcebook и Google. Код д..."
Отправлено rshadow , 04-Ноя-18 21:44 
Да оно итак понятно что рандомно раскрасили. Просто похоже на правду, но нет.

"Новые системы машинного обучения от Fаcebook и Google. Код д..."
Отправлено smit , 03-Ноя-18 21:20 
Body-art вместо штанов.

"Новые системы машинного обучения от Fаcebook и Google. Код д..."
Отправлено Аноним , 05-Ноя-18 01:27 
Врать сети будут 100%:
> В эпоху черно-белого телевидения в камерах использовались красные фильтры, которые буквально съедали весь красный цвет, и губы дикторов получались очень бледными и невыразительными. Чтобы этого избежать, гримеры красили их помадой зеленого цвета.

"Новые системы машинного обучения от Fаcebook и Google. Код д..."
Отправлено Аноним , 06-Ноя-18 07:32 
Кто-нибудь разобрался как запустить процесс конвертации фото? А то ни один из модулей не содержит прямых ссылок на папку с фотками

"Новые системы машинного обучения от Fаcebook и Google. Код д..."
Отправлено Аноним , 06-Ноя-18 08:10 
Нельзя не упомянуть https://github.com/deeppomf/DeepCreamPy
Вот настоящая наука! Примеры использования сами погуглите