Развитие забуксовало? Кажется, у искусственного интеллекта появились проблемы
Крупнейшие компании испытывают все больше сложностей в поиске свежих источников высококачественных данных для обучения своих более продвинутых систем ИИ.
Сначала все было хорошо. И некоторые даже поверили, что вот-вот ИИ заменит нам все - от высококлассных специалистов до навязчивой необходимости учиться в школе. ИИ за нас и выучится, и реорганизует медицину и ЖКХ, отправит на покой (во всех смыслах) водителей человеческого происхождения, покажет нам куда бы мы могли поехать в отпуск и расскажет, как прекрасен мир где-то там, где ни нас, ни самого ИИ нет и не было.
О проблемах
Спустя несколько лет стремительного прогресса в разработке всё более сложных ИИ-продуктов у ведущих компаний области появились проблемы. к 2024 году отдача от инвестиций в новые технологии стала снижаться. В то же время проблема разработки возникла не вчера, она вообще существовала с первого дня, просто с течением времени усугубилась. Поиск свежих и качественных данных для обучения продвинутых систем становится задачей крайне трудной. Все вот это свежее и качественное должно быть сгенерировано живыми людьми... Часть такой информации уже "освоена", часть не отвечает требованиям, ну хоть людей нанимай и пускай создают контент для обучения ИИ.
Нынешние незначительные улучшения не способны оправдать колоссальные затраты на создание и внедрение новых моделей, а также не удовлетворяют возросшие ожидания от новых продуктов.
Нынешние незначительные улучшения не способны оправдать колоссальные затраты на создание и внедрение новых моделей, а также не удовлетворяют возросшие ожидания от новых продуктов.
Для примера вспомним про Orion от OpenAI. Инсайдеры еще в летом текущего года говорили, что компания находится на пороге важной вехи. В сентябре завершился начальный этап обучения для масштабной модели Orion. Предполагалось, что состоявшееся успешное обучение станет (дальше красиво, прям для рекламы формулировка) важным шагом на пути к созданию ИИ, превосходящего человеческие способности.
Стало?
Нет. Orion вроде должна была, но не смогла продемонстрировать тот прорыв, который ранее продемонстрировала модель GPT-4 по сравнению со своей предшественницей, GPT-3.5.
Стало?
Нет. Orion вроде должна была, но не смогла продемонстрировать тот прорыв, который ранее продемонстрировала модель GPT-4 по сравнению со своей предшественницей, GPT-3.5.
О ChatGPT
Что умеет?
Способен вести диалог, искать ошибки в коде, сочинять стихи, писать сценарии и даже спорить.Ограничения программы
Модель вознаграждения ChatGPT, разработанная с учётом человеческого надзора, может быть чрезмерно оптимизирована и, таким образом, снижать производительность в соответствии с законом Гудхарта.Написание кода с помощью ChatGPT
Чат-бот не только подсказывает, как выполнить операцию или процесс, но и анализирует код, ищет в нем недостатки, а также переводит из одного языка программирования в другой. Его уже успешно применяли для создания простых, но полнофункциональных приложений для iOS и Android.Доступность
Доступ к сервису ограничен в таких странах, как Китай, Россия, Белоруссия, Афганистан, Венесуэла, Туркменистан, Иран. Также ранее сервис не был доступен для жителей Украины и Италии.
Да, деваться некуда: как для OpenAI, так и для ее товарищей по сфере развития и по несчастью самая большая проблема в том, что интеллектуальная собственность (защищенная или в открытом доступе) - ресурс исчерпаемый. За последние годы разработчики пользовались всеми доступными данными, включая информацию из соцсетей, включая X (бывший Twitter) и YouTube.
А теперь все.
OpenAI даже была вынуждена заключить соглашения с издателями, ради получения высококачественных данных и противодействия растущему юридическому давлению со стороны правообладателей. Помогло это? Отчасти. Увы. и это исчерпаемый ресурс.
А теперь все.
OpenAI даже была вынуждена заключить соглашения с издателями, ради получения высококачественных данных и противодействия растущему юридическому давлению со стороны правообладателей. Помогло это? Отчасти. Увы. и это исчерпаемый ресурс.
Неужели всё?
Чтобы научить ИИ чему-то принципиально новому это новое надо найти (или создать). А значит развитие ИИ серьезно затормозится и это неизбежно. И сейчас специалисты сосредоточились на том, чтобы научить ИИ анализировать и проверять свои ответы перед выдачей.
То есть, главное требование - уйти все дальше от случайного ответа "по теме", подчас мало общего имеющего с реальностью. Модель учат генерировать несколько ответов в режиме реального времени, а потом путем сравнения выбирать лучший. По такому принципу уже работает, например, GPT-4o1, а создатели похожих продуктов делают этот принцип тенденцией.
И все же замедление в борьбе за качество неизбежно. Пользователи "наигрались". Теперь большинство обращается к искусственному интеллекту за серьезными ответами, но не ради развлечения.
И все же замедление в борьбе за качество неизбежно. Пользователи "наигрались". Теперь большинство обращается к искусственному интеллекту за серьезными ответами, но не ради развлечения.
Действия от лица пользователей
Есть другой вариант развития - не улучшение имеющегося, а создание похожего с близким, но иным функционалом. И сразу несколько компаний готовы представлять свои ИИ-агенты, которые позволят выполнять разнообразные задачи на ПК практически без участия пользователя.
Речь о создании амбициозного отраслевого проекта, направленного на разработку программного обеспечения на основе ИИ, способного выполнять многоступенчатые задачи с минимальным вмешательством со стороны пользователей.
Речь о создании амбициозного отраслевого проекта, направленного на разработку программного обеспечения на основе ИИ, способного выполнять многоступенчатые задачи с минимальным вмешательством со стороны пользователей.
OpenAI активно разрабатывает сразу несколько проектов, связанных с ИИ-агентами. Ближе всего к завершению находится универсальный инструмент, способный выполнять задачи в веб-браузере.
Компания Anthropic уже представила аналогичного агента, который может в реальном времени анализировать происходящие на компьютере пользователя события и выполнять действия от его имени (правда, столкнувшись с отставанием в графике появления необходимых функций). Тем временем Microsoft, поддерживающая OpenAI, недавно выпустила набор инструментов, предназначенных для отправки электронных писем и управления записями сотрудников. Google тоже готовится к выходу своего агента на основе ИИ (еще один дискуссионный вопрос о том оправдывает Gemini ожидания или не оправдывает).
И если всего несколько месяцев назад мы ждали что Orion достигнет (а он не достиг!)желаемой OpenAI
производительности, то теперь нам предлагается подождать января 2025-го. Сэм Альтман во время сессии вопросов-ответов на Reddit продукты компании ожидаемо хвалил, и тенденцию в разработке описал более чем конкретно.
производительности, то теперь нам предлагается подождать января 2025-го. Сэм Альтман во время сессии вопросов-ответов на Reddit продукты компании ожидаемо хвалил, и тенденцию в разработке описал более чем конкретно.
Хотя дата выхода Operator для широкой аудитории пока не объявлена, данная разработка указывает на переход к новому поколению ИИ, которые не просто обрабатывают информацию, но и способны активно взаимодействовать с компьютерными системами.
Прекрасно, но это разворот в стратегии, связанный с реальной и потенциальной неудачей. Окупаемость инвестиций в ИИ и достижимость такой глобальной цели. как создание общего искусственного интеллекта (AGI), превосходящего человека в решении большинства интеллектуальных задач - под вопросом.
Прекрасно, но это разворот в стратегии, связанный с реальной и потенциальной неудачей. Окупаемость инвестиций в ИИ и достижимость такой глобальной цели. как создание общего искусственного интеллекта (AGI), превосходящего человека в решении большинства интеллектуальных задач - под вопросом.
Разработчики ИИ-моделей стоят перед выбором - развивать старые модели, дополняя их и улучшая, или же запускать новые версии (дорогие, связанные с использованием синтетических данных, с эмоциональным пост-обучением и т.д.). К сожалению, второй вариант не гарантирует, что ИИ станет работать намного лучше. У инвесторов же по мере роста затрат продолжают расти ожидания, но стремительное развития ИИ, каким оно было на начальном этапе, увы, в ближайшие месяцы (возможно, и годы) не ожидается.
О чем статья?
Проблемы обучения ИИ
Поиск свежих и качественных данных для обучения продвинутых систем становится задачей крайне трудной. Все вот это свежее и качественное должно быть сгенерировано живыми людьми.Согласия правообладателей все же спросили
OpenAI вынуждена заключить соглашения с издателями, ради получения высококачественных данных и противодействия юридическому давлению со стороны правообладателей.Проекты с новым функционалом
Агент Anthropic может анализировать происходящие на компьютере пользователя события, Microsoft выпустила инструменты для отправки электронных писем, есть агенты у Google и OpenAI.Дилемма
Разработчики стоят перед выбором — развивать старые модели, дополняя их и улучшая, или же запускать новые версии — более дорогие, но не намного эффективней имеющихся.-
230
Чтобы развиваться нам нужна ваша поддержка .
Начать обсуждение