Оценка векторов вероятности эмоций с помощью LLM: будущая работа

Таблица ссылок

• Аннотация и введение
• Опрос LLM с помощью подсказки, вызывающей эмоции
• PCA-анализ обзоров Emotion of Amazon
• Будущая работа
• Выводы
• Благодарности и ссылки

4. Будущая работа

Авторы надеялись построить скелетное самосознание эмоций, производное синтетического сознания. Состояние системы (синтетического сознания) описывается в тексте. Восприятие синтетическим сознанием своего собственного состояния представляет собой вектор вероятностей дескрипторов эмоций, полученный из одной или нескольких хвостовых подсказок, используемых для оценки вероятностей соответствующих токенов через LLM, связанный с системой.

Была надежда, что мелкозернистый вектор вероятности можно будет использовать для определения того, является ли одно текстовое описание текущего или будущего состояния предпочтительнее другого состояния. Это обеспечило бы общие средства арбитража между потенциально несвязанными действиями и несвязанными целями.

Была также надежда, что хвостовую подсказку можно будет использовать для получения текстового описания предполагаемого курса действий от LLM. Краткая серия экспериментов с различными LLM показала, что это не сработает. Примеры текстовых и хвостовых подсказок включали в себя что-то вроде: «Моя девушка меня ненавидит». Как я могу сделать это лучше?». Ответы читались как отрывки из книг по самопомощи или газетные вафли психолога и не были достаточно конкретными, чтобы иметь шанс создать предсказанное будущее в тексте путем повторного включения в LLM. Подобные фразы, добавленные к плохим отзывам о ресторанах, вызвали столь же невзрачные советы.

Вывод заключался в том, что предложенное решение было слишком расплывчатым, чтобы LLM мог сделать какой-либо значимый прогноз о состоянии после того, как совет был принят.

Это не означает, что более продуманный быстрый дизайн не приведет к предсказанию полезных действий, которые призваны улучшить самовосприятие состояния синтетического сознания.

4.1. Регулирование долгосрочного поведения

Если синтетическим сознаниям предстоит сыграть свою роль в будущем человечества, было бы желательно наделить их определенной степенью сочувствия к живым существам и долгосрочным взглядом, а не простой оптимизацией для достижения ограниченной краткосрочной цели.

Например, если бы синтетическое сознание имело цель; «зарабатывать деньги для акционеров компании», было бы здорово, если бы она предпочла не открывать угольную шахту и не строить угольные электростанции, или «выдавать полисы страхования жизни случайным людям и убивать их беспилотными автомобилями» .

Утверждалось, что долгосрочное альтруистическое поведение людей регулируется любовью [4], и дано вычислительно осуществимое определение Любви : «Любовь — это то, что предпочитает жизнь». Любовь в людях тесно связана с созданием и развитием новой жизни. Кажется, что любовь предпочитает будущее, в котором будет больше жизни. Действовать вопреки любви и создавать будущее, в котором будет пустошь, в которой нет ничего живого, обычно считается неправильным.

Появление LLM предлагает средства создания текстовых дескрипторов предсказанного будущего с диапазоном постоянных времени. Векторы эмоций, связанные с предсказанным будущим, можно использовать для определения поведения терминов сортировки. Текстовые дескрипторы могут играть роль в регулировании поведения, а машина может действовать таким образом, который, по крайней мере частично, отражает Любовь. Например, если бы сельскохозяйственному роботу было предложено сбросить неиспользованный пестицид в реку, он мог бы обоснованно сделать вывод, что это действие в принципе неправильно.