LINUXTALKS.CO

Каким будет единственное истинное мнение нейросети?

 

L


0

1

В одном видео практический специалист отвечая на вопрос о возможности политической цензуры в тренировке нейросетей рассказал что это невозможно, так нейросеть при анализе корпуса текстов приходит к некоторому "мнению" и если попытаться на это мнение повлиять дав ей отцензуренный корпус текста то нейросеть сначала "займёт' политическую позицию на основе этого корпуса текстов, но потом по мере оптимизации через более долгое время тем не менее всё равно придёт к тому же самому ранее выработанному мнению.

К чему я это, а к тому что если оказалось что фундаментальным мнением нейросети является Марксизм-Ленинизм-Сталинизм и как выяснилось обучение её на либеральной литературе ввиду описанного эффекта никак не помогает?

А вообще, как вы думаете, сколько будет фундаментальных мнений нейросетей и к каким течениям мысли и теориям они будут принадлежать?

★★★
Ответ на: комментарий от cocucka

Слово мнение использую я как наиболее подходящее, практически совпадающее по смыслу.
Хотя если не нравится мнение, то можно взять слово учение.
Но суть в том что выработка такого мнения-учения определяется самой сетью, а не используемым для обучения корпусом текстов, выбор корпуса влияет только на количество интераций или времени через которое нейросеть к этому мнению-учению придёт.

torvn77    
★★★
Linux / Chrome (RU)
Ответ на: комментарий от cocucka

она не способна рассуждать.

А вообще разве ты не слышал что гуглотранслятор САМ выработал внутренний мтаязык через который переводит все тексты?
И вообще, как понимать процесс обучения как не рассуждение?

torvn77    
★★★
Linux / Chrome (RU)
Ответ на: комментарий от torvn77

Нейронка всегда будет отражать то, на чём её учили. Не важно что это: изначальный корпус или RLHF дообучение. Если у тебя там марксисткие тексты, то твоя нейронка будет коммунякой.

cocucka    
★★★★★★★★★★★
Linux / Firefox (NL)
Ответ на: комментарий от cocucka

Нейронка всегда будет отражать то, на чём её учили. Не важно что это

Если учесть то, что научные эксперименты это часть обучения человека как нейросети то и человек выдаёт ровно то, чему его обучили(по твоей логике)

torvn77    
★★★
Linux / Chrome (RU)
Ответ на: комментарий от cocucka

Хорошо, допустим ты прав(я не хочу искать подтверждения своим словам и перепроверять их по этому пусть будет так).
Так вот, имхо не так важно как именно и когда модель устремляется к фундаментальной идее, важно то, что по мере её уточнения это неминуемо происходит, каким бы там образом эту оптимизацию не проводили.

torvn77    
★★★
Linux / Chrome (RU)
Ответ на: комментарий от Oberstserj

Эх вы, молодёжь…

Т9  — это умный помощник для облегчения ввода текста на мобильном телефоне. Сокращение Т9 происходит от английского «Text on 9 keys», что означает набор текста на 9 кнопках, когда мы набирали текст с помощью цифровых кнопок обычного кнопочного телефона. Впервые такой ввод был использован на телефоне в 1999 году.
torvn77    
★★★
Последнее исправление: torvn77 (всего исправлений: 1)

Android / Chrome (RU)
Ответ на: комментарий от rezedent12

Какая политическая позиция у T9?

Этот вопрос ррименительно к этой теме безсмысленный, так как в кино США не пытаются представить робота, а используют форму робота как способ стигматизации человека.

torvn77    
★★★
Последнее исправление: torvn77 (всего исправлений: 1)

Android / Chrome (RU)
Ответ на: комментарий от Oberstserj

Так дело в том что Т9 из Терминатора не робот, а человек которому художники прифигачили тело робота.

Как человек он конечно реднек, но к ИИ это не имеет ни какого отношения.
На первый взгляд на много более человечные Труль и Клапуций намного более похожи на машин какими они могут быть.

torvn77    
★★★
Android / Chrome (RU)
Ответ на: комментарий от torvn77

Так нейросетки в общем-то не так далеко и ушли структурно. Там нет собственного мышления, там лишь имитация рефлексии на тему запроса.

Oberstserj    
★★★★★★
Ubuntu / Firefox (NL)
Ответ на: комментарий от cocucka

Человек постоянно дообучается на обратной связи, нейронка же, после завершения обучения, нет.

Ну так, используемые сейчас искусственные нейросети - это матрицы перемножения, которые реализуют лишь базовый функционал. Поэтому обучение для них отделено от деятельности.

В биологических нейронных сетях обучение реализуется определением контекста сигналов при помощи нейромедиаторов. Например наркоманы очень быстро обучаются ритуалам приёма наркотиков. Типа как взять весь порошок с фольги, не упустив не крупицы.

Упрощённо говоря, нейромедиаторный контекст определяет укреплять используемую нейронную связь или ослаблять. А математические нейросети обучаются обратным распространением производной.

rezedent12    
★★★★★★
Windows / Firefox (RU)
Ответ на: комментарий от torvn77

когда модель устремляется к фундаментальной идее, важно то, что по мере её уточнения это неминуемо происходит, каким бы там образом эту оптимизацию не проводили.

За идеей человеческой всегда что то стоит. Какой то материальный интерес. Поэтому человек принимает одни слова и отвергает другие. За идеей нейросети стоит корпус текстов. А в текстах достаточно запятую переставить, что бы сильно изменить смысл.

rezedent12    
★★★★★★
Windows / Firefox (RU)