Инфляция метрик и разбавление качества
Когда ИИ делает объём и скорость дешёвыми, каждая метрика, считающая объём и скорость, раздувается, поэтому парьте каждую с мерой полезности, проверенной человеком, и следите, не тонет ли сигнал в ваших данных.
Обзор и мотивация
Метрика работает, потому что отражает нечто, трудное в производстве. Решённые заявки отражают усилие. Написанные документы отражают знание. Добавленные тесты отражают заботу. Когда инструмент делает видимый выпуск почти бесплатным, связь между выпуском и усилием рвётся. Числа продолжают расти, а смысл утекает. Это инфляция метрик, а её компаньон есть разбавление качества: доля полезного в производимом падает, а полезную часть становится труднее найти.
Это не новая проблема. Закон Гудхарта и его родственник закон Кэмпбелла описывают, как портятся меры, используемые для контроля. Метрика тщеславия выглядит внушительно и ничего не говорит о здоровье работы. Что меняет ИИ, это скорость и масштаб, с которыми выпуск может порождаться, а с ними скорость и масштаб, с которыми могут происходить эти старые провалы. Команда, раньше раздувавшая счёт вручную, теперь может сделать это за минуты, часто не намереваясь.
В работе с услугами и поставкой повторяется несколько закономерностей.
- Инфляция объёма. ИИ порождает больше заявок, ответов, комментариев, тестовых случаев, документов и кода. Счёты этого растут. Нагрузки тех, кто должен читать, рецензировать и поддерживать, тоже растут.
- Инфляция скорости. Время до первого черновика резко падает, а время до законченного проверенного результата падает меньше или вовсе нет. Панель, сообщающая первое, рассказывает лестную историю.
- Шум. Больше содержания конкурирует за внимание. Информационная перегрузка есть состояние, когда человек не может обработать объём представленной информации, а отношение сигнал/шум базы знаний, очереди заявок или потока оповещений падает. Усталость от оповещений есть её операционная форма (см. тему 5.5, Метрики мониторинга и качества оповещений).
- Низкокачественное порождённое содержание. Содержание, производимое оптом с малым рецензированием, иногда называемое ИИ-мусором, правдоподобно и жидко. База знаний, засеянная такими статьями, становится менее достойной доверия, и пользователи учатся ей не доверять.
- Цена проверки. Усилие проверить утверждение часто намного больше усилия его сделать, закономерность, иногда называемая законом Бранголини. Когда порождение дёшево, проверка становится узким местом.
- Эффективность, увеличивающая потребление. Парадокс Джевонса описывает случаи, когда выигрыши эффективности ведут к большему использованию ресурса, а не меньшему. Если составление отчёта становится дешёвым, требуется больше отчётов. Время, сэкономленное инструментом, может потребляться большей работой меньшей ценности.
- Петли обратной связи. Если порождённое содержание питает следующий раунд порождения, ошибки накапливаются. Исследовательская литература описывает коллапс модели в моделях, обученных на собственных выводах. Сходная петля может возникать внутри организации, когда ассистент резюмирует заявки, написанные ассистентом по статьям, которые резюмировал ассистент.
- Дрейфующие базовые уровни. Если распределение данных меняется из-за ИИ, тренды и пороги больше не значат того, что значили. Это напоминает дрейф концепции в машинном обучении, где связь между входами и результатами меняется со временем. Рост объёма заявок может отражать более лёгкое создание заявок, а не больше проблем.
Здесь важны цели Agile. Непрерывная поставка, непрерывное улучшение и устойчивый темп зависят от ясности сигнала. От мотивированных людей не следует требовать продираться сквозь машинный шум или проверять груды вывода в неустойчивом темпе. Непрерывно вовлечённые заинтересованные стороны также лучшая защита: они скажут вам, когда отчёты перестают помогать.
Эта тема даёт меры для замечания инфляции и разбавления и пары, их разоблачающие. Она опирается на основы и меры работы с помощью ИИ (см. тему 10.1, ИИ в измерении управления услугами, и тему 10.2, Измерение работы с помощью ИИ).
Ключевые принципы
- Парьте каждую метрику объёма или скорости с проверкой полезности. Человек судит, полезен ли вывод.
- Измеряйте до законченного проверенного результата. Скорость первого черновика есть ловушка.
- Следите за бременем проверки. Оно растёт тихо и поглощает сэкономленное время.
- Защищайте сигнал. Держите базу знаний, очереди и оповещения достаточно чистыми, чтобы им доверять.
- Разрывайте петли обратной связи. Не позволяйте порождённому содержанию питать порождение без рецензирования.
- Заново задавайте базовый уровень, когда данные меняются. Тренды через технологический сдвиг требуют осторожности.
- Предпочитайте меньше, но лучше. Меньше может быть больше, когда внимание есть ограничивающий ресурс.
Определения метрик
| Метрика | Определение | Формула | Единица | Источник данных | Практика ITIL | Agile-аналог | Периодичность |
|---|---|---|---|---|---|---|---|
| Отношение выпуска к результату | Объём выпуска относительно результата, который он должен был произвести | счёт выпуска (заявки, статьи, изменения) / мера результата (решённые проблемы, используемые статьи, сохранённые изменения), за тот же период, отслеживается как тренд | отношение | Трекер работы, база знаний, меры результатов | Непрерывное улучшение; измерение и отчётность | Работающее ПО важнее объёма документации | Раз в месяц |
| Доля полезных элементов | Доля выбранных элементов, признанных полезными квалифицированным проверяющим | выбранные элементы, признанные полезными (верные, релевантные, не дубликаты) / выбранные элементы | процент | Случайное выборочное рецензирование | Управление знаниями; обеспечение качества | Определение готовности для содержания | Раз в месяц |
| Бремя проверки | Время людей на проверку и исправление порождённой работы на единицу выпуска | часы рецензирования и исправления / единицы выпуска, отслеживается как тренд | часов на единицу | Оценки времени, данные инструмента рецензирования | Управление финансами услуг; непрерывное улучшение | Ёмкость рецензирования как ограничение | Раз в месяц |
| Доля избыточности содержания | Доля элементов знаний, дублирующих другой или существенно с ним пересекающихся | элементы, помеченные как дубликаты или пересекающиеся при рецензировании или сопоставлением / элементы в базе знаний | процент | Рецензирование базы знаний, отчёты сопоставления | Управление знаниями | Единый источник истины | Раз в квартал |
| Доля рецензированных порождённых знаний | Доля порождённых ИИ элементов знаний, которые квалифицированный человек рецензировал и одобрил до публикации | порождённые элементы, опубликованные с одобренным рецензированием / опубликованные порождённые элементы | процент | Метаданные базы знаний | Управление знаниями; управление изменениями (change enablement) | Рецензирование до выпуска | Раз в месяц |
| Приток против решения в очередях | Рост приходящей работы относительно роста решённой работы для очередей, затронутых ИИ | (изменение созданных элементов) / (изменение решённых элементов), сравнивается с базовым уровнем до ИИ | отношение | История заявок и трекера | Управление инцидентами; управление запросами на обслуживание | Баланс потока | Раз в месяц |
| Флаги дрейфа метрик | Число метрик, чьё определение или распределение заметно сдвинулось после введения ИИ, пересмотренных и аннотированных | метрики, помеченные при пересмотре / метрики в реестре | число; процент | Пересмотр реестра метрик, проверки распределений | Измерение и отчётность | Ретроспектива об измерении | Раз в квартал |
Определяйте «полезный» в письменной рубрике: верный, релевантный реальной потребности, не дубликат и актуальный. Бремя проверки считает время, потраченное людьми, включая время на повторный промпт, и исключает время, являющееся лишь ожиданием. Доля рецензированных есть контроль: нерецензированные порождённые знания отслеживаются отдельно и держатся видимо помеченными. Флаги дрейфа метрик суть обсуждения, а не наказания: флаг означает, что человек решил, скорректировать ли определение, аннотировать тренд или заново задать базовый уровень. Все меры описывают процессы и содержание, а не отдельных людей.
Рекомендации
Парьте объём с полезностью
1. Встройте проверку полезности в каждую метрику объёма. Для каждой меры объёма или скорости на вашей панели назовите меру полезности, которую оценил человек. Созданные заявки парьте с качеством решения, написанные статьи с использованием и точностью статей, слитые изменения с сохранением и переделками (см. тему 10.2, Измерение работы с помощью ИИ). Показывайте их вместе и обсуждайте, когда они расходятся.
2. Берите выборку и судите регулярно. Каждый месяц берите случайную выборку элементов из потоков, которых касается ИИ, и пусть квалифицированный человек судит их по письменной рубрике. Записывайте долю полезных и причины отказа элементов. Вращайте проверяющих и держите их независимыми от производителей. Выборка есть главная защита от медленного разбавления.
3. Сообщайте результаты раньше выпуска. В отчётах для руководства начинайте с результатов: решённые проблемы, довольные пользователи, избегнутые дефекты. Счёты выпуска ставьте после, как контекст. Если отчёт остаётся ценным с убранными счётами выпуска, он ориентирован хорошо.
Контролируйте проверку и шум
4. Измеряйте бремя проверки. Оценивайте время на проверку и исправление порождённой работы и отслеживайте его как тренд на единицу выпуска. Если оно растёт вместе с выпуском, чистый выигрыш меньше, чем говорят числа порождения, а рецензенты могут быть на пути к перегрузке. Включайте бремя в стоимость задачи (см. тему 10.1, ИИ в измерении управления услугами).
5. Ограничивайте, что входит в систему. Решите, какое порождённое содержание может создаваться и публиковаться автоматически, а какому нужно рецензирование. Задайте ограничения на размер и число порождённых изменений в одном рецензировании. Облегчите отказ от объёма. Меньшая очередь с более ясными элементами служит пользователям лучше.
6. Управляйте базой знаний как продуктом. Помечайте порождённое содержание, требуйте рецензирования перед публикацией, выводите дубликаты и устаревшие элементы и отслеживайте избыточность и использование. База знаний полезна пропорционально доверию пользователей. Убирайте статьи, которыми никто не пользуется и за которые никто не может поручиться (см. тему 3.6, Метрики управления знаниями).
7. Держите потоки оповещений и заявок чистыми. Если ИИ создаёт заявки из оповещений или резюме, измеряйте долю полезных и дубликаты. Настраивайте агрессивно. Относитесь к падающему отношению сигнал/шум как к инциденту сам по себе, поскольку оно вредит реакции, когда приходит настоящая беда.
Разрывайте петли и следите за базовым уровнем
8. Не позволяйте порождённому содержанию питать само себя непроверенным. Где ассистент черпает из базы знаний, истории заявок или прошлых отчётов, обеспечьте, чтобы порождённый материал в этих источниках был рецензирован или помечен и взвешен соответственно. Берите выборку цепочки: выберите ответ и проследите его назад через источники, чтобы увидеть, откуда он пришёл. Непроверенные петли усиливают ошибки.
9. Заново задавайте базовый уровень, когда данные сдвигаются. После введения ИИ аннотируйте графики трендов и, где природа данных изменилась, начинайте новый базовый уровень. Проверяйте распределения, а не только итоги: длина заявки, структура категорий и время создания могут сдвигаться. Флаги дрейфа метрик побуждают эти разговоры (см. тему 1.6, Статистическая грамотность для метрик услуг).
10. Ищите отскок. Когда задача становится дешевле, спросите, вырастет ли спрос на неё. Заранее решите, как использовать сэкономленное время, чтобы оно не поглощалось большим малоценным выпуском. Команда, производящая вдвое больше отчётов с теми же усилиями, может делать менее полезную работу.
Держите человеческое внимание в петле
11. Защищайте внимание рецензентов и пользователей. Ёмкость рецензирования и внимание скудны. Сокращайте объём материала, который людям нужно читать, давайте рецензентам реалистичные нагрузки и спрашивайте, что становится труднее. Устойчивый темп включает темп чтения и суждения (см. тему 9.2, Метрики удовлетворённости и благополучия).
12. Спрашивайте пользователей и заинтересованные стороны, ясен ли сигнал. Непрерывное вовлечение людей, использующих выпуск, есть лучшая проверка. Спрашивайте, стала ли база знаний легче или труднее в использовании, говорят ли отчёты им нужное, кажется ли очередь яснее. Их ответы и комментарии следует читать рядом с числами.
Векторы манипуляции и ограждения
| Метрика | Как её искажают | Парная метрика или практика-ограждение |
|---|---|---|
| Отношение выпуска к результату | Выбирать меру результата, растущую с объёмом; менять период | Результат зафиксирован в реестре; сравнивать с удовлетворённостью и долей повторных открытий |
| Доля полезных элементов | Выбирать лёгкие элементы; снисходительная рубрика; проверяющие под влиянием производителя | Случайная выборка; письменная рубрика; независимые вращающиеся проверяющие |
| Бремя проверки | Не записывать время рецензирования; переносить проверку на нисходящие команды | Включать нисходящие переделки; спрашивать проверяющих о нагрузке |
| Доля избыточности содержания | Узкие правила сопоставления, пропускающие дубликаты; слияние различных элементов | Вручную выбирать дубликаты; вести журнал правил слияния |
| Доля рецензированных порождённых знаний | Отмечать рецензирование завершённым без чтения; рецензировать оптом | Выборка рецензирований на суть; время на рецензирование; доля ошибок в опубликованных элементах |
| Приток против решения в очередях | Автоматически закрывать элементы; делить элементы | Проверять качество решения; доля повторных открытий; выборка закрытых элементов |
| Флаги дрейфа метрик | Не помечать, чтобы избежать работы; помечать всё | Пересматривать все метрики каждый квартал; требовать решения по каждому флагу |
Здоровое чтение есть стабильная или растущая доля полезных элементов при росте объёма, известное и доступное бремя проверки, база знаний с малой избыточностью и рецензированным порождённым содержанием, очереди с ясным сигналом и вид руководства, начинающийся с результатов.
Компромиссы: плюсы и минусы
| Подход | Сильная сторона | Слабая сторона |
|---|---|---|
| Считать выпуск | Легко, привычно | Раздувается; награждает объём |
| Измерять результаты | Отражает ценность | Медленнее; труднее атрибутировать |
| Выборка и суждение | Обнаруживает разбавление | Нужны умелые проверяющие; усилия |
| Автоматическая оценка качества | Масштабируется | Мнение другой модели; может делить те же слепые пятна |
| Рецензировать всё порождённое | Безопасно | Убирает выгоду; рецензенты перегружены |
| Рецензировать выборку | Практично | Некоторые плохие элементы проходят |
| Допускать открытое порождение | Быстро, широко | Шум; доверие подтачивается |
| Ограничивать порождение одобренными использованиями | Чище сигнал | Медленнее внедрение; упущенные выгоды |
Ответ прост: измеряйте результаты, берите выборку и судите полезность вместе с людьми, ограничивайте то, что входит в общие хранилища без рецензирования, и пересматривайте базовые уровни. Используйте автоматическую оценку как помощь, а не как судью.
Вопросы для обсуждения в команде
1. Какие наши числа выросли с тех пор, как мы начали использовать ИИ, и что это дало людям, которым мы служим? Перечислите числа. По каждому посмотрите на результат, который оно должно было отражать. Ведущему стоит отметить, где результат не сдвинулся. Парьте эти числа с проверкой полезности.
2. Какую часть того, что мы опубликовали или создали в прошлом месяце, мы были бы рады защитить строка за строкой? Возьмите случайную выборку и прочтите вместе. Отметьте полезное, жидкое, неверное и дублирующее. Обсудите долю и причины. Договоритесь о стандарте того, что идёт в общие хранилища.
3. Где проверка становится нашим узким местом? Спросите рецензентов. Посмотрите очереди рецензирований, глубину рецензирования и усилия, которые они теперь несут. Договоритесь об ограничении размера или числа порождённых элементов на рецензирование и о способе измерять бремя.
4. Какое порождённое содержание у нас питает другое порождённое содержание? Проследите типичный ответ назад к источникам. Где началась цепочка? Обсудите, где человеку следует проверять цепочку или помечать содержание.
5. Что сказал бы пользователь о нашей базе знаний сейчас по сравнению с прошлым годом? Прочтите недавние комментарии и посмотрите данные использования. Спросите, стало ли легче или труднее найти заслуживающий доверия ответ. Договоритесь об одной чистке и одном правиле для нового содержания.
6. Какие из наших трендов следует перезапустить с новым базовым уровнем? Перечислите метрики, зависящие от объёма или от способа создания элементов. Ищите изменения формы с тех пор, как появился ИИ. Аннотируйте тренды и решите, каким нужен свежий базовый уровень.
Четыре точки зрения
Продуктовые команды и команды поставки
Команды поставки порождают значительную часть объёма и несут поддержку. Им следует предпочитать меньшие и более ясные изменения, держать порождённый материал рецензированным и помеченным и следить за сохранением и переделками. Им следует отказываться от метрик на основе порождённого объёма и просить меры результатов.
Команды услуг и эксплуатации
Команды эксплуатации живут в очередях, оповещениях и базе знаний, которым вредит разбавление. Им следует настраивать создаваемые ИИ заявки и оповещения, чтобы сохранять сигнал сильным, рецензировать порождённые знания до публикации и сообщать, когда поток становится шумом. Они лучше всех могут судить о полезности.
Руководство и управление
Руководители получают панели, которые инфляция искажает. Им следует просить результаты первыми, требовать проверки полезности рядом с объёмом, финансировать ёмкость рецензирования и принимать, что некоторые меры нуждаются в новом базовом уровне. Управлению следует проверять, что порождённое содержание в общих хранилищах рецензировано и помечено.
Клиенты и пользователи
Пользователи несут цену разбавления, когда ответы неверны, статьи противоречат друг другу, а ответы длинны и пусты. Они хотят короткой, верной, релевантной помощи. Их реакция на качество получаемого есть прямая проверка того, выжил ли сигнал.
На практике: пример из управления услугами
ИТ-группа глобальной фармацевтической компании включает ассистента ИИ для составления статей знаний, резюмирования заявок и подготовки еженедельных отчётов о состоянии. В течение квартала панель выглядит отлично. Числа ниже иллюстративны.
Создаваемые статьи знаний растут со 140 до 610 в месяц. Заявки несут подробные резюме, написанные ИИ. Еженедельные отчёты разрастаются до двенадцати страниц. Менеджер по качеству услуг замечает, что удовлетворённость самообслуживанием упала, а служба поддержки сообщает больше обращений «статья не помогла». Менеджер берёт выборку из 100 новых статей вместе с двумя опытными исполнителями. Только 54 признаны полезными: 23 дублируют существующие статьи, 15 содержат устаревшие или неверные шаги, а 8 слишком расплывчаты для действия. Из новых статей 71 % опубликованы без рецензирования человеком. В базе знаний теперь около 3200 статей, причём менеджер оценивает долю избыточности содержания в 28 % против 9 % год назад. Исполнители сообщают, что поиск достойного доверия ответа занимает дольше. Бремя проверки для редакторов статей службы поддержки выросло примерно до 40 часов в неделю, с 12. Написанные ИИ резюме заявок заставляют последующие порождённые ИИ ответы опираться на текст, который никто не писал, и при прослеживании пяти ответов назад через источники два опирались на резюме, неверно изложившее проблему. Еженедельные отчёты о состоянии, когда их читают, говорят мало такого, чего не было в предыдущем, и заинтересованные стороны перестали читать дальше второй страницы.
Менеджер предлагает четыре изменения, которые группа руководства услуг и владельцы знаний принимают. Порождённые статьи требуют рецензирования названным редактором перед публикацией и помечены до одобрения. Ограничение в одну порождённую статью на кластер тем предотвращает дубликаты, а чистка сливает или выводит избыточные элементы. Шаблоны отчётов сокращаются до двух страниц, начинающихся с результатов, а ИИ используется для черновика только тех разделов, которые затем правит человек. Резюме заявок помечаются как порождённые, а выборка проверяется каждый месяц. Панель сообщает долю полезных элементов, долю избыточности, долю рецензированных и бремя проверки рядом со счётами статей.
Через два квартала создаваемые статьи падают до 190 в месяц, доля полезных элементов растёт до 91 %, доля избыточности падает до 11 %, доля рецензированных составляет 100 %, а бремя проверки стабилизируется около 16 часов в неделю. Удовлетворённость самообслуживанием восстанавливается, а обращения «статья не помогла» падают. Заинтересованные стороны читают двухстраничный отчёт. Директор просит цель в 1000 статей в месяц, чтобы показать ценность программы ИИ. Менеджер по качеству услуг объясняет, что проблемой был именно счёт, и предлагает отслеживать полезность и использование. Решение записано.
Agile, ИИ, автоматизация и аналитика
Agile
Регулярный пересмотр того, отражает ли ещё каждый счёт полезность, помогает команде рано заметить инфляцию, а заинтересованные стороны могут сказать вам, чем они действительно пользуются. Осторожность в том, что ужесточение счёта после замеченной инфляции запускает цикл заново.
ИИ
ИИ делает объём и скорость дешёвыми, поэтому каждый счёт объёма или скорости раздувается. Парьте каждый с долей элементов, признанных полезными человеком, и бременем проверки и проверяйте избыточное содержание. Осторожность в том, что ИИ, используемый для проверки вывода ИИ, может делить те же слепые пятна, поэтому сохраняйте человеческую выборку.
Автоматизация
Автоматизируйте обнаружение дубликатов, почти-дубликатов и устаревшего содержания и измеряйте обнаружение по ложным срабатываниям. Осторожность в том, что автоматическая чистка может убрать редкие, но важные элементы.
Аналитика
Сообщайте отношение выпуска к результату и долю полезных элементов с размерами выборок. Решение, которое это информирует, состоит в том, какие счёты перестать сообщать. Осторожность в том, что отношение зависит от того, как определены результаты, поэтому указывайте это.
Отраслевой взгляд
Стартап. Порождение дёшево, а время на рецензирование скудно. Держите документацию и заявки короткими, рецензируйте то, что прочтут клиенты, и удаляйте свободно. Малый верный набор статей лучше большого сомнительного.
Малый бизнес. Ёмкости на рецензирование мало, поэтому ограничивайте, что производит инструмент. Предпочитайте горстку проверенных руководств и шаблонов. Остерегайтесь публикации порождённого материала на публичных страницах без проверки.
Крупная компания. Масштаб усиливает шум. Установите управление содержанием с владельцами, метками и правилами рецензирования, измеряйте полезность по базе знаний и проводите периодические чистки. Делитесь рубриками между командами и сравнивайте тренды, а не команды.
Государство и публичный сектор. Публичное содержание должно быть точным и доступным, а ошибки могут вредить. Требуйте рецензирования порождённой публичной информации, храните записи о том, как она произведена, и применяйте стандарты простого языка и доступности. К порождённому материалу могут применяться правила хранения и документов (см. тему 8.5, Регулируемая и государственная отчётность).
Бизнес-обоснование: мотивы, ROI и TCO
Затраты на защиту от инфляции скромны: время рецензирования для выборки, редакторские усилия для порождённого содержания, инструменты обнаружения дубликатов и усилия по новому заданию базовых уровней трендов. Затраты на отказ от этого больше, но расплывчаты: пользователи, переставшие доверять самообслуживанию, выгоревшие рецензенты, решения на раздутых числах и проекты чистки.
Стройте обоснование из собственных данных: доля полезных элементов и бремя проверки во времени, объём обращений, вызванных бесполезным содержанием, и цена чистки базы знаний. Избегайте использования опубликованных цифр о качестве порождённого содержания, которые сильно различаются по инструменту, задаче и методу. Включайте избегнутую цену репутационного ущерба от публикации неверной информации (см. тему 7.7, Возврат инвестиций и бизнес-обоснование).
Антипаттерны и ловушки
- Празднование объёма. Оно награждает шум. Празднуйте результаты и полезность.
- Скорость первого черновика как история производительности. Экономия может исчезнуть в проверке. Измеряйте время до проверенного результата.
- Публикация порождённого содержания без рецензирования. Доверие подтачивается тихо. Рецензируйте и помечайте.
- Позволять порождённому содержанию питать порождение. Ошибки накапливаются. Проверяйте цепочку.
- Неизменные базовые уровни. Тренды вводят в заблуждение после технологического сдвига. Аннотируйте и задавайте заново.
- Перегрузка рецензентов. Рецензирование становится формальным штампом. Ограничивайте объём и измеряйте бремя.
- Использование судьи на основе ИИ для всего. Он может делить слепые пятна производителя. Держите людей в петле.
- Игнорирование отскока. Более дешёвая работа привлекает больше работы. Решите, для чего сэкономленное время.
Модель зрелости
| Измерение | 1 Инициирование | 2 Развитие | 3 Стандартизация | 4 Управление | 5 Оркестрация |
|---|---|---|---|---|---|
| Парование и выборка | Объём сообщается один | Неформальные впечатления о качестве | Каждая метрика объёма спарена с выборочной проверкой полезности | Полезность, бремя и избыточность управляются, цели для рецензирования, а не объёма | Вид качества сигнала по организации; рубрики разделяются с партнёрами |
| Содержание и петли | Порождённое содержание смешано | Некоторая разметка | Порождённое содержание помечено и рецензировано до публикации; цепочки выбираются | Петли мониторятся; хранилища курируются; дубликаты выводятся по графику | Происхождение отслеживается сквозь инструменты и поставщиков |
| Базовые уровни и внимание | Тренды читаются через сдвиг | Аннотации на некоторых графиках | Базовые уровни сброшены там, где данные изменились; отскок учтён | Флаги дрейфа пересматриваются ежеквартально; нагрузка рецензентов управляется | Проект метрик непрерывно адаптируется к технологическому изменению вместе с заинтересованными сторонами |
Контрольный список
- У каждой метрики объёма или скорости есть компаньон полезности, оценённый человеком.
- Случайная выборка элементов, затронутых ИИ, рецензируется ежемесячно по письменной рубрике.
- Бремя проверки оценивается и отслеживается как тренд.
- Порождённые знания помечаются и рецензируются перед публикацией.
- Избыточность базы знаний измеряется и сокращается.
- Потоки оповещений и заявок мониторятся на долю полезных и дубликаты.
- Цепочки от порождённых выводов назад к источникам выбираются.
- Тренды через введение ИИ аннотируются или заново получают базовый уровень.
- Отчёты для руководства начинаются с результатов.
- Пользователей и заинтересованные стороны спрашивают, стал ли сигнал яснее или шумнее.
Промпты для ИИ
Создайте рубрику полезности.
Draft a short rubric (no more than six criteria) for judging whether a [knowledge
article, ticket summary, status report] is useful in [type of organization].
Include correctness, relevance to a real need, duplication, currency, and
clarity, with a three-level rating and examples of each level. Do not invent
statistics. List your assumptions and how to keep reviewers consistent.
Проанализируйте падение сигнала.
Since introducing AI for [task], these figures changed: [paste volumes, resolution,
satisfaction, reopen rate, reviewer hours]. Describe what the pattern suggests
about inflation or dilution, which changes may be due to easier creation, what
to sample next, and which metrics may need a new baseline. Do not assume
causes the data cannot support. List your assumptions.
Спланируйте чистку базы знаний.
Our knowledge base has [number] articles, of which [number] were generated in the
last [period]. Propose a clean-up plan: how to detect duplicates and stale items,
how to prioritize by use, how to review generated articles, rules to prevent
recurrence, and measures to track. Do not assume specific tools. List your
assumptions and risks.
Проследите цепочку порождённого содержания.
Here is an AI-generated answer and the sources it drew on: [paste]. Trace each
claim to its source and mark whether the source was human-written, reviewed
generated content, or unreviewed generated content. Identify where an error
could have entered and suggest a check. Do not assume facts beyond the text. List
your assumptions.
Навыки ИИ
- Service Management Metrics skill: используйте, чтобы найти компаньона полезности для метрики объёма или скорости.
- Service Management Metrics maintainer skill: используйте, чтобы проверить, что метрика, затронутая ИИ, парит объём с выборочной полезностью и несёт свой вектор манипуляции и ограждение.
Главные выводы
- Когда ИИ делает выпуск дешёвым, метрики объёма и скорости раздуваются, а доля полезного может падать.
- Парьте каждую меру объёма или скорости с выборочной проверкой полезности, оценённой человеком.
- Измеряйте время до проверенного результата и бремя проверки, потому что проверка становится узким местом.
- Помечайте и рецензируйте порождённое содержание до его входа в общие хранилища и не позволяйте петлям питать себя непроверенными.
- Заново задавайте базовые уровни трендов после технологического сдвига и начинайте отчёты с результатов.
- Заранее решайте, для чего сэкономленное время, и защищайте внимание рецензентов и пользователей.
Источники и дополнительное чтение
- Shumailov, I., Shumaylov, Z., Zhao, Y., Papernot, N., Anderson, R., and Gal, Y., "AI models collapse when trained on recursively generated data," Nature, 631, 2024.
- Goodhart, C. A. E., "Problems of Monetary Management: The U.K. Experience," in Papers in Monetary Economics, Reserve Bank of Australia, 1975.
- Campbell, D. T., "Assessing the impact of planned social change," Evaluation and Program Planning, 2(1), 1979.
- Muller, J. Z., The Tyranny of Metrics, Princeton University Press, 2018.
- Parasuraman, R., and Manzey, D. H., "Complacency and bias in human use of automation: An attentional integration," Human Factors, 52(3), 2010.
- National Institute of Standards and Technology, Artificial Intelligence Risk Management Framework (AI RMF 1.0), NIST AI 100-1, 2023.
- Beck, K., et al., Principles behind the Agile Manifesto, 2001, https://agilemanifesto.org/principles.html.
- Wikipedia, Закон Гудхарта.
- Wikipedia, Закон Кэмпбелла.
- Wikipedia, Метрика тщеславия.
- Wikipedia, Информационная перегрузка.
- Wikipedia, Отношение сигнал/шум.
- Wikipedia, Усталость от оповещений.
- Wikipedia, ИИ-мусор.
- Wikipedia, Закон Бранголини.
- Wikipedia, Парадокс Джевонса.
- Wikipedia, Коллапс модели.
- Wikipedia, Дрейф концепции.