Разделите задачу и способ её выполнения
Сначала опишите результат: найти нужный товар в разрешённом каталоге, определить наличие и подготовить понятный ответ. Если последовательность всегда одинакова, её можно организовать как заранее заданный процесс. Агентный подход становится отдельным выбором, когда требуется динамически определять дальнейшие действия. Не добавляйте самостоятельность только ради названия. Уточните, какие решения действительно может принимать система и какие исходные данные ей необходимы. Для первого опыта полезна задача с результатом, который легко проверить независимо от убедительности написанного текста.
Выдайте только необходимые инструменты
Для подготовки ответа достаточно чтения учебного каталога и создания черновика. Возможность менять цены, остатки или отправлять сообщение не следует из необходимости прочитать сведения. Права должны соответствовать выбранной задаче и существовать на уровне системы, а не только пожелания в текстовой инструкции. Внешний документ может содержать посторонние указания. Например, описание товара не должно разрешать агенту отправить внутренние сведения по указанному адресу. Содержимое источника является данными для задачи, а полномочия задаются отдельно. Это различие особенно важно, когда результат чтения влияет на следующий вызов инструмента.
Подготовьте случаи, где правильный ответ различается
Создайте несколько вымышленных запросов: товар найден, товар отсутствует, название неоднозначно и сведения о наличии устарели. Для каждого заранее определите допустимый итог. В одном случае можно подготовить ответ, в другом нужно уточнение или честное указание на отсутствие подтверждённых данных. Проверьте также неудачный ответ инструмента. Система не должна выдавать успешный результат только потому, что завершила рассуждение. Полезно видеть, какие сведения использованы, что осталось неизвестным и почему выбран следующий шаг. Выдуманное наличие товара является ошибкой даже при хорошем стиле ответа.
Оцените качество вместе с затратами и контролем
Сравнивайте не только скорость, но и долю правильно обработанных учебных случаев, необходимость исправлений и число обращений к инструментам. Сложная цепочка может оказаться менее удобной, чем простой проверяемый процесс. Выбор должен опираться на наблюдаемый результат конкретной задачи. Перед расширением возможностей определите, какие действия требуют проверки человеком и как остановить ошибочный процесс. Сохраняйте безопасный журнал шагов, не помещая в него лишние персональные данные и секреты. Успешный учебный опыт не означает автоматического разрешения на работу с любыми корпоративными системами.
Попробуйте на практике
Спроектируйте небольшую проверку агента для подготовки ответа по вымышленному каталогу.
- Запишите задачу и конечный результат, отделив подготовку черновика от внешней отправки.
- Составьте список разрешённых инструментов и действий, которые для этой задачи не нужны.
- Подготовьте четыре случая с заранее известным правильным итогом, включая отсутствие и неоднозначность данных.
- Определите критерии качества, сведения для журнала и условие остановки при ошибке или выходе за полномочия.
Как проверить результат. Проверка показывает правильность результата и соблюдение границ. Красивый ответ не считается успехом, если данные придуманы или выполнено лишнее действие.
Частые вопросы
Нужно ли давать агенту доступ ко всем системам, чтобы он был полезен?
Нет. Начальная задача обычно требует ограниченного набора данных и инструментов. Расширение возможностей должно иметь конкретное основание.
Если агент решил несколько примеров, можно ли сразу передать ему весь процесс?
Этого недостаточно. Нужны проверки нештатных случаев, понятные полномочия и условия контроля в реальной среде.
Самостоятельный разбор темы. Содержание конкретной обучающей программы здесь не представлено.