100 дней ИИ, день 14: пять тенденций генеративного ИИ, на которые следует обратить внимание в 2024 году

В сфере генеративного ИИ происходит много событий. Настолько, что компания Nvidia, торговец оружием генеративного искусственного интеллекта, со своими чипами H100 теперь превзошла рыночные оценки Amazon. Это также очень динамичное пространство, в котором активно проявляют себя стартапы и крупные технологические компании. В этом посте я выделю три большие тенденции, которые мы можем увидеть в ближайшие 12–18 месяцев.

1 – Сделки с данными

Последние два десятилетия мы продолжали говорить, что данные – это новая нефть . Эта фраза будет иметь реальные последствия в этом году. Многие компании накопили уникальные наборы данных и нашли продукт, который действительно подходит рынку. Недавно появилась новость о том, что Reddit заключил сделку о доступе к своим данным с неназванной компанией за 60 миллионов долларов. Условия сделки неизвестны, но это новый доход Reddit в размере 60 миллионов долларов. Ищите больше предложений от компаний, которые располагают уникальными наборами данных.

2. Сосредоточьтесь на моделях с открытым исходным кодом

С тех пор как Open AI запустил чат gpt, в разговоре преобладали базовые модели серии gpt, которые являются закрытыми моделями. Это означает, что никто, кроме команды Open AI, не знает подробностей о том, как модель обучалась, на каких данных она обучалась и параметры модель. Мы увидим, как больше моделей с открытым исходным кодом выйдут на сцену и привлекут внимание. Основным игроком на этой арене, на которого следует обратить внимание, является Meta (Facebook). Meta убирает страницу из подхода Google на мобильных устройствах. В то время как мобильная операционная система Apple была закрыта, стратегия Google заключалась в том, чтобы создать мобильную операционную систему с открытым исходным кодом, на которой работает более 80% мобильных телефонов в мире. Так что следите за Метой.

3 – Малые языковые модели

Открытый ИИ доказал всему миру, в чем сила больших языковых моделей (LLM). Но поскольку каждая компания, занимающаяся искусственным интеллектом, стремится создавать готовые продукты и функции и пытается заставить предприятия внедрить искусственный интеллект в свой бизнес. LLM не всегда может быть лучшим решением. Модель меньшего размера, которая может потребовать меньше вычислений для обучения и использует меньше, но более качественных данных, на самом деле может быть лучше. Эти модели, называемые SLM, могут быть запущены на мобильных телефонах, что расширит доступ к ИИ для более широкой аудитории. Некоторые из SLM, которые стоит проверить:

• Фи от Microsoft
• Орка от Microsoft
• Т5 от Google

Одной из основных задач по адаптации и внедрению инноваций с помощью SML является снижение затрат на вычисления и повышение доступности ИИ.

4 – Сосредоточьтесь на безопасности LLM

Я не говорю о безопасности данных для обучения LLM. Я имею в виду случаи, когда пользователи могут взломать LLM, чтобы сделать что-то, что им не положено, или сломать только их. При взломе поведения LLM возникает множество проблем с безопасностью. Некоторые включают в себя:

• Побег из тюрьмы , чтобы заставить LLM ответить на то, что ему не нравится делать дома запрещенное вещество.
• Prompt Injection , чтобы скрыть подсказки, нарушающие LLM.
• Отравление данных — это внедрение в Интернет неверных данных, которые будут использоваться студентами LLM и впоследствии могут быть использованы не по назначению.

В настоящее время мы обнаруживаем все больше и больше способов взлома LLM, поскольку исправляем те, о которых знаем. Это будет одна из активных областей, где в 2024 году будет достигнут прогресс как в области исследований, так и в области продуктов.

5 – Нормативные последствия

Совершенно очевидно, что ИИ будет иметь огромное значение для общества во всех секторах. Его пути будут пересекаться со всеми аспектами жизни общества, и, как мы видели, каждая крупная компания объявляет о крупных инициативах в области ИИ и инвестициях в ИИ в 2022–2023 годах.

• Microsoft инвестировала в Open AI & Inflection
• Google и Amazon инвестировали в Anthropic
• Джефф Безос инвестировал в Perplexity
• Airbnb приобрела компанию Gameplanner.ai, занимающуюся разработкой скрытого искусственного интеллекта.

Регуляторы уже были сосредоточены на крупных технологиях, что блокировало им любые приобретения за последние 3 года. На этом фоне мы увидим, как регуляторы как в США, так и в ЕС внимательно следят за инвестициями в ИИ, а также потенциально могут распутать некоторые инвестиции. Инвестиции были сделаны в первую очередь для того, чтобы избежать поглощений, поскольку люди, управляющие крупными технологическими компаниями, знают, что получить их одобрение будет непросто. Но даже некоторые из этих инвестиций также могут оказаться под пристальным вниманием.

Вот и все, день 14 из 100 дней ИИ.

Я пишу информационный бюллетень под названием «Выше среднего», в котором рассказываю об идеях второго порядка, стоящих за всем, что происходит в больших технологиях. Если вы разбираетесь в технологиях и не хотите быть средним, подпишитесь на него .

Следуйте за мной в Twitter , LinkedIn или HackerNoon , чтобы получать последние новости о 100 днях ИИ. Если вы работаете в сфере технологий, возможно, вам будет интересно присоединиться к моему сообществу технических специалистов здесь .