Способен ли ГИИ ускорить научно-технический прогресс?
Вы часто в новостях слышите: «ГИИ открыл новые материалы с невиданной скорость, создал новые лекарства, изобрел ракетный двигатель». #Все это фейк из-за непонимания нюансов работы технологии.
Изначально сделаю разделение на продукты (ChatGPT, Claud, #GEMINi и другие) и технологию, на которой базируется ГИИ. С продуктами все понятно – это забавная игрушка, имеющая околонулевую практическую ценность и нулевой научно-технический потенциал, но с технологией иначе и не все так однозначно.
#Наука – это сложная система, включающая изучение причинно-следственных связей, а также механизмов взаимодействия объектов и процессов.
ГИИ – это лишь инструмент, базирующиеся на совершенно иной технологии, которая не может быть напрямую применима к R&D.
С точки зрения науки ГИИ помогает работать с неструктурированными массивами информации, искать корреляции и зависимости, обеспечивать классификацию данных и создавать пространство векторов/вероятностей.
Например, лично в своих исследовательских проектах я использую связку #EXCEL + Python + SQL + комплекс дата провайдеров по финансовой и экономической статистике + #GOOGLe/Yandex, которые были заменены на связку ChatGPT/Perplexity.
ChatGPT/Perplexity работают в связке для поиска актуальной информации, как решить какую-то проблему или задачу в программировании, настройке ИТ комплексов, разработке формулы или как навигатор по инструкциям/гайдам/мануалам + очень редко в классификации неструктурированных массивов данных.
Как показывает опыт, ГИИ имеет нулевую ценность в аналитике данных и научно-исследовательских проектах – пользы действительно нет, но как более эффективная замена #GOOGLe и Wikipedia – да. Конспектирование / экстракт отчетов с использованием ГИИ (основная функция у них) редко провожу.
Поэтому, когда вижу, что ГИИ создал ракетный двигатель – это просто смех от вопиющей тупости журналистов. Даже в микромодуле для простых расчетов ГИИ налепит десятки ошибок, которые придется исправлять три часа, а сложные и многофакторные проекты – тут даже речи не идет.
Весь раздутый хайп вокруг ГИИ действительно выглядит необоснованным.
• Проблема в критической низкой точности выходных результатов, что абсолютно неприемлемо для научных расчетов и проектов, где требуется подтвержденная качественная информация (юриспруденция, финансы и страхование, медицина и т.д.).
• ГИИ регулярно галлюцинирует (в будущем этот баг можно минимизировать, хотя полностью исключить не получится).
Низкая надежность приводит к тому, что к любой выходной информации ГИИ относишься с недоверием, что требует времени и ресурсов для проверки и верификации, что снижает производительность.
LLM производят низкокачественную и ненадежную информацию, которая затем всасывается обратно в другие LLM. Модели становятся необратимо загрязненными.
• Современные большие языковые модели (LLM) научились распознавать шаблоны/паттерны, но не понимают лежащие в их основе концепции и причинно-следственные связи, поэтому они изначально тупы, хотя чисто технические «эрудированы» из-за концентрации данных. LLM обучают на наборе доступных данных — тексте, изображениях и аудио, а не на прямом взаимодействии с физическим миром.
• Модели могут отражать предвзятости и перекосы в данных, на которых они обучались. Обучение на доступных данных приводит к тому, что модели не могут выйти за пределы предоставленной информации и сделать выводы на основе реального опыта или экспериментов. Это ограничивает их способность к инновациям и приспособлению к новым и неожиданным ситуациям.
• Ограниченная длина контекстного окна, что приводит к утрате нити повествования или «забывании» исходных корректировок.
• Ограниченность масштабирования и отсутствие самообучения в публичных моделях.
• Нет критерия оценки выходных данных (нет критерия ошибки), поэтому ГИИ не может эффективно управлять вектором генерации результатов.
131.6 ₽
-2.3%
0.26 HK$
+4%
380 ₽
+21.79%
19.15 $
-4.63%
150.2 $
+0.4414%