Организация OSI выработала критерии открытости AI-систем

28.10.2024 20:52

Организация Open Source Initiative (OSI), занимающаяся проверкой лицензий на предмет соответствия критериям Open Source, утвердила документ Open Source AI Definition v1.0 (OSAID), в котором сформулировано определение открытого AI. AI-система может считаться открытой, если она соответствует следующим критериям:

Возможность использования в любых целях без необходимости получения отдельного разрешения;
Возможность изучения работы системы и инспектирования её компонентов;
Возможность внесения изменений для любых целей, включая изменение выводимой системой информации;
Возможность передачи другим лицам как исходного варианта, так и редакции после внесения изменений, без ограничения целей использования.

Для предоставления возможности внесения изменений открытая AI-система должна включать:

Детальную информацию о данных, использованных при обучении, и методологии обучения. Информации должно быть достаточно для того, чтобы профессиональный разработчик смог своими силами воссоздать эквивалентную AI-систему, используя для обучения те же самые или похожие данные.
Исходный код, позволяющий как запустить AI-систему, так и выполнить процесс её обучения. Код также должен охватывать такие области, как препроцессинг, проверка данных и токенизация. Кроме того, должно быть предоставлено детальное описание архитектуры модели.
Параметры модели (весовые коэффициенты), подразумевающие наличие готового к использованию среза состояния после обучения или наличие финального оптимизированного варианта модели.

Большие языковые модели машинного обучения, признанные соответствующими подготовленным критериям: Pythia (Eleuther AI), OLMo (AI2), Amber (LLM360), CrystalCoder (LLM360) и T5 (Google).

Большие языковые модели машинного обучения претендующие на соответствие, но требующие внесения изменений в лицензии или правила использования: BLOOM (BigScience), Starcoder2 (BigCode) и Falcon (TII).

Большие языковые модели машинного обучения, признанные не соответствующими критериям открытых AI-систем, в силу отсутствия необходимых компонентов или из-за наличия требований, несовместимых с принципами Open Source: Llama2 (Meta), Grok (X/Twitter), Phi-2 (Microsoft) и Mixtral (Mistral).

исправить +14 +/–

Лицензия: CC BY 3.0

Короткая ссылка: https://opennet.ru/62127-ai

Ключевые слова: ai, opensource, license

При перепечатке указание ссылки на opennet.ru обязательно

Обсуждение (56)

1.1, Аноним (1), 21:44, 28/10/2024 [ответить] [﹢﹢﹢] [ · · · ]	+1 +/–
Да форкните уже OpenAI без цензуры!

2.5, Аноним (5), 21:47, 28/10/2024 [^] [^^] [^^^] [ответить]	+5 +/–
Цензура в них заложена by design, на lmarena даже соревнуются по этому параметру, кто выдаёт более цензурируемый и инклюзивный текст.

3.30, Rus_Trololo (ok), 02:29, 29/10/2024 [^] [^^] [^^^] [ответить]	–3 +/–
Да, но несколько странно выбирать llm по этому критерию.

4.33, Аноним (33), 02:55, 29/10/2024 [^] [^^] [^^^] [ответить]	+1 +/–
Абсолютно нормально. Ибо применение им только для серых схем можно найти. В остальном бесполезные игрушки.

3.47, Аноним (-), 10:02, 29/10/2024 [^] [^^] [^^^] [ответить]	+1 +/–
Тестил ИИ GPT год назад https www opennet ru openforum vsluhforumID10 5652 ht... большой текст свёрнут, показать

4.50, Соль земли (?), 10:07, 29/10/2024 [^] [^^] [^^^] [ответить]	+/–
В этом минус языковых моделей. Они не подходят под точные задачи. Слишком много рандома в них.

5.78, Айнаниммм (?), 02:06, 30/10/2024 [^] [^^] [^^^] [ответить]	+/–
Рандомность выключается параметрами temperature и top. Можно всего получать один и тот-же ответ, без случайностей...

6.86, Аноним (86), 08:07, 30/10/2024 [^] [^^] [^^^] [ответить]	+/–
В тестах GPT температуру выставил в 0 ИИ ошибался в вопросах на которые надо да... большой текст свёрнут, показать

4.52, Аноним (52), 10:20, 29/10/2024 [^] [^^] [^^^] [ответить]	+/–
Да, эти извинения на технические ошибки раздражают. Сначала я делал скриншоты, потом понял, это так запрограммировано у них “by design “

5.97, Аноним (97), 10:00, 20/11/2024 Скрыто ботом-модератором [к модератору]	+/–

5.98, Аноним (97), 10:01, 20/11/2024 Скрыто ботом-модератором [к модератору]	+/–

2.8, Аноним (8), 22:00, 28/10/2024 [^] [^^] [^^^] [ответить]	+12 +/–
> форкните уже OpenAI Оно открыто чтобы его форкать? Если не знали, слово Open в "OpenAI" не значит ничего.

3.60, Аноним55 (?), 14:11, 29/10/2024 [^] [^^] [^^^] [ответить]	+/–
Ниже аноним сказал, что > Все существующие алгоритмы открыты и строго описаны. Форкай - не хочу. Верю ему.

3.68, Аноним (68), 15:39, 29/10/2024 [^] [^^] [^^^] [ответить]	–2 +/–
> слово Open в "OpenAI" не значит ничего Слово ”open” в контексте компьютерных систем имеет весьма точное определение, и не имеет совершенно никакого отношения к открытости исходников. И это определение применимо к OpenAI. Если не знал.

4.69, Аноним123 (?), 16:09, 29/10/2024 [^] [^^] [^^^] [ответить]	+/–
А что означает слово ”open” в контексте компьютерных систем?

5.76, Аноним (68), 18:02, 29/10/2024 [^] [^^] [^^^] [ответить]	+/–
Open (open system) обозначает, что система имеет определённые интерфейсы для взаимодействия с другими системами. Например, Windows, MacOS, AIX и OpenAI — это всё открытые системы. Ты можешь взять документацию на их API и разработать своё ПО, которое будет с ними взаимодействовать. В отличие от закрытых систем, которые не имеют интерфейсов для взаимодействия с внешним миром, не поддерживают открытые протоколы и стандарты, и являются примером вендор-лока. Заметь, в приведённых примерах я специально не перечислял открытые системы с открытым исходным кодом, так как открытие исходников не делает систему открытой. Можно вполне представить себе закрытую систему с открытыми исходниками, хотя толку от такой в современном мире будет весьма мало.

6.80, Аноним (80), 04:27, 30/10/2024 [^] [^^] [^^^] [ответить]	+/–
Вот и вырабатываются критерии, чтобы OpenAI не было равно open system или open source.

6.92, Аноним (97), 03:21, 20/11/2024 Скрыто ботом-модератором [к модератору]	+/–

....ответы скрыты (17)

1.9, Минона (ok), 22:00, 28/10/2024 [ответить] [﹢﹢﹢] [ · · · ]	–1 +/–
> инспектирования её компонентов для понимания как создаются результаты; Видимо они не в курсе как работают нейронки.

2.11, ruroruro (?), 22:06, 28/10/2024 [^] [^^] [^^^] [ответить]	+1 +/–
Все норм. Нужна возможность инспектирования, а не интерпретации.

3.44, Минона (ok), 09:31, 29/10/2024 [^] [^^] [^^^] [ответить]	+/–
> Все норм. Нужна возможность инспектирования, а не интерпретации. Вижу, но не понимаю? Какой в этом смысл?

4.83, Аноним (80), 05:06, 30/10/2024 [^] [^^] [^^^] [ответить]	+/–
Это называется бюрократия.

2.61, Аноним55 (?), 14:11, 29/10/2024 [^] [^^] [^^^] [ответить]	+/–
Ниже аноним сказал, что из питона вызываются. Так что в курсе.

2.93, Аноним (97), 03:29, 20/11/2024 [^] [^^] [^^^] [ответить]	+/–
> идимо они не в курсе как работают нейронки. Речь видимо про многомодульные - ИИ модуть цензуры, ИИ модуль перевода(в c.gpt уже интегрирован, впрочем), [ИИ] модуль звука, ?зрения и т.д.

1.12, Аноним (-), 22:06, 28/10/2024 Скрыто ботом-модератором [﹢﹢﹢] [ · · · ] [к модератору]	+/–

2.15, Аноним (15), 22:21, 28/10/2024 Скрыто ботом-модератором [к модератору]	+/–

2.16, ruroruro (?), 22:24, 28/10/2024 Скрыто ботом-модератором [к модератору]	+/–

3.20, Аноним (-), 23:41, 28/10/2024 Скрыто ботом-модератором [к модератору]	+/–

4.21, Аноним (21), 23:48, 28/10/2024 Скрыто ботом-модератором [к модератору]	+/–

4.63, Аноним (63), 14:50, 29/10/2024 Скрыто ботом-модератором [к модератору]	+/–

5.64, Аноним (63), 14:54, 29/10/2024 Скрыто ботом-модератором [к модератору]	+/–

5.66, Аноним (-), 15:20, 29/10/2024 Скрыто ботом-модератором [к модератору]	+/–

6.70, Аноним (63), 16:17, 29/10/2024 Скрыто ботом-модератором [к модератору]	+/–

7.72, Аноним (72), 16:49, 29/10/2024 Скрыто ботом-модератором [к модератору]	+/–

8.73, Аноним (63), 17:48, 29/10/2024 Скрыто ботом-модератором [к модератору]	+/–

9.74, Аноним (63), 17:58, 29/10/2024 Скрыто ботом-модератором [к модератору]	+/–

6.71, Аноним (63), 16:28, 29/10/2024 Скрыто ботом-модератором [к модератору]	+/–

....ответы скрыты (12)

1.17, Аноним (17), 22:41, 28/10/2024 [ответить] [﹢﹢﹢] [ · · · ]	+2 +/–
Теперь пусть FSF разработает критерии свободности AI-систем.

2.19, Аноним (19), 23:37, 28/10/2024 [^] [^^] [^^^] [ответить]	+/–
Ещё как вариант - критерии открытости и свободности OSI

2.62, Аноним55 (?), 14:13, 29/10/2024 [^] [^^] [^^^] [ответить]	+/–
Критерии-то они сделают. Только кто покажет сообществу проект, приносящий миллиарды прибыли? Разве что аноним с нашего форума.

3.75, Аноним (75), 17:58, 29/10/2024 [^] [^^] [^^^] [ответить]	+/–
Не всё делается только ради приношения прибыли. Вот, например, проект KDE прибыли не приносит, но обычным пользователям польза есть.

1.27, Аноним (-), 01:10, 29/10/2024 [ответить] [﹢﹢﹢] [ · · · ]	+/–
А, некоторые модели они просто признали несовместимыми с моделью. Я недочитавши уже прокомментировал. Понятно, это только классификация такая - эти открытые, они дают такие возможности, эти нет. А в чем смысл? Денег определенные толстосумы только на открытые дают?

2.94, Аноним (97), 03:39, 20/11/2024 [^] [^^] [^^^] [ответить]	+/–
> А в чем смысл? О себе заявить :) Информировать других, типчино невнимательных тут, о том что не все с полностью свободными лицензиями. Стимулирвать тем авторов делать их всё же свободными. И полноценней предоставлять инструментарий.

1.45, Аноним (45), 09:38, 29/10/2024 [ответить] [﹢﹢﹢] [ · · · ]	–1 +/–
> AI-система может считаться открытой, если она соответствует следующим критериям: Среди критериев нет открытости алгоритмов и примеров исходных кодов, позволяющих самостоятельно разработать хотя бы макет подобной системы (вся математика фактически закрыта 20 лет назад), то рассуждения об "открытости" ИИ остаются незавершенными.

2.49, Аноним (-), 10:06, 29/10/2024 [^] [^^] [^^^] [ответить]

+/–

>Среди критериев нет открытости алгоритмов

Все существующие алгоритмы открыты и строго описаны.

и примеров исходных кодов,

А зачем? Чтобы ты мог копировать, не утруждая работой свою башку?

>позволяющих самостоятельно разработать хотя бы макет подобной системы

В твоём случае "самостоятельно украсть".

>(вся математика фактически закрыта 20 лет назад),

Ложь.

>то рассуждения об "открытости" ИИ остаются незавершенными.

Демагогия.

3.53, Аноним (45), 10:30, 29/10/2024 [^] [^^] [^^^] [ответить]	+1 +/–
> Чтобы ты мог копировать, не утруждая работой свою башку? В твоём случае "самостоятельно украсть". Ложь. Демагогия. Какие интересные сведения. Выдают осведомленного, умного и честного сторонника СПО.

3.85, Аноним3 (?), 07:32, 30/10/2024 [^] [^^] [^^^] [ответить]	+/–
Вы распространяете лишенный смысла контент, предъявляете необоснованные обвинения, разоблачая вами же созданные фейки. Такие, как вы, превратили интернет в токсичную для нормального человека среду.

2.55, Аноним55 (?), 11:37, 29/10/2024 [^] [^^] [^^^] [ответить]

+1 +/–

> Среди критериев нет открытости и примеров исходных кодов

Какой тебе еще открытости и кодов. Покупаешь подписку, запускаешь питон и "путь открыт к успеху" (c) Швейк.
> математика фактически закрыта 20 лет назад

Что там тебе закрыто? Книжек, как из питоне вызывать искусственный интеллект, хоть отбавляй.

3.95, Аноним (97), 03:43, 20/11/2024 [^] [^^] [^^^] [ответить]	+/–
Даже не касаясь зомбированности из коробки ИИ, сам Python, да и ОС с аппартурой, - те же ещё дырищи..

1.46, Аноним (-), 10:00, 29/10/2024 [ответить] [﹢﹢﹢] [ · · · ]	+/–
Намного важен критерий Свободности сформулированное сообществом GNU.

1.48, Соль земли (?), 10:04, 29/10/2024 [ответить] [﹢﹢﹢] [ · · · ]	+1 +/–
> Возможность использования в любых целях Это всё ради науки! ;)

2.51, Аноним (-), 10:08, 29/10/2024 Скрыто ботом-модератором [к модератору]	+/–

1.59, Аноним (59), 12:56, 29/10/2024 [ответить] [﹢﹢﹢] [ · · · ]	–2 +/–
А железо может быть закрытое? Вот такой открытый АЙ.

2.87, Аноним (-), 01:02, 04/11/2024 [^] [^^] [^^^] [ответить]	+/–
Да, может. Как закрытое, так и открытое. Можно поискать open hardware. А закрытое все остальное.

3.96, Аноним (97), 03:47, 20/11/2024 [^] [^^] [^^^] [ответить]	+/–
> open hardware Т.е.открытая прошивка чипа на закрытом ПЛИС - делает сам чип уже открытым?...

1.84, Аноним (80), 05:44, 30/10/2024 [ответить] [﹢﹢﹢] [ · · · ]	+/–
Со временем продвигаемый AI станет "умным" как первая страничка Google. Что подсунут, то и приживется.

игнорирование участников | лог модерирования

Добавить комментарий

Текст: