Разговор: принципы применения сервиса (provided that, unless)

Слова урока · 4

• volume_updefault /dɪˈfɔːlt/настройка по умолчанию
• volume_upaudit trail /ˈɔːdɪt treɪl/журнал действий, след для аудита
• volume_upred line /ˌred ˈlaɪn/красная линия, недопустимое
• volume_upkill switch /ˈkɪl swɪtʃ/аварийный выключатель

Фразы урока · 2

• volume_upPrivacy should be the default, and every decision leaves an audit trail.Приватность должна быть по умолчанию, и каждое решение оставляет след для аудита.
• volume_upSelling data is a red line — there must be a kill switch.Продажа данных — красная линия; должен быть аварийный выключатель.

Диалог: «Разговор: правила для «Умного расписания» в клинике»

Эмма задаёт вопросы поставщика и пациентов; Алекс формулирует принципы: польза и её цена, условия допуска, красные линии, подотчётность, обязательное и необязательное.

• Emma: Right, the clinic wants to buy «SmartSlot» — the thing that predicts which patients won't turn up and overbooks accordingly. We've been asked to draft the principles. Where do you start?Итак, клиника хочет купить «Смартслот» — штуку, которая предсказывает, какие пациенты не придут, и соответственно записывает больше. Нас попросили набросать принципы. С чего начнёшь?
• Alex: With what it's for and what it costs. It enables the clinic to fill empty slots — the supplier claims 15 % more appointments. The side effect is obvious: when the prediction is wrong, two people arrive for one slot, and one of them waits an hour. So principle one: the benefit is allowed only as long as the cost falls on the clinic, not the patient. In concrete terms, anyone double-booked is seen within twenty minutes or offered the next free slot with an apology and a taxi.С того, для чего оно и чего стоит. Оно позволяет клинике заполнять пустые окна — поставщик заявляет на 15 % больше приёмов. Побочный эффект очевиден: когда предсказание неверно, два человека приходят на одно окно, и один ждёт час. Значит, принцип первый: польза допустима, только пока цена ложится на клинику, а не на пациента. Конкретно: любой, кого записали вдвойне, принимается в течение двадцати минут или получает ближайшее окно с извинениями и такси.
• Emma: The supplier will say that kills the saving.Поставщик скажет, что это убивает экономию.
• Alex: Then the saving isn't real — it's a transfer from patients' time to the clinic's budget. Provided that the taxi rule stays, I'm fine with the tool. Principle two is bias. By «bias» I mean the model learning that certain postcodes «don't turn up» and overbooking them harder. That's a red line for me: the prediction must not use postcode, income or ethnicity, and there must be an audit trail showing which factors it did use, so someone can be asked why.Тогда экономия не настоящая — это перенос из времени пациентов в бюджет клиники. При условии, что правило с такси остаётся, я не против инструмента. Принцип второй — предвзятость. Под «предвзятостью» я имею в виду, что модель научится, что определённые районы «не приходят», и будет записывать их ещё плотнее. Для меня это красная линия: предсказание не должно использовать почтовый индекс, доход или этничность, и должен быть след для аудита, показывающий, какие факторы оно использовало, чтобы кого-то можно было спросить «почему».
• Emma: Who's the someone? «The system» can't be accountable.Кто этот «кто-то»? «Система» не может быть подотчётной.
• Alex: Exactly — so a named person. The practice manager signs off the monthly report and can override the tool for any patient; unless she's signed, the report doesn't count. And a kill switch: if double-bookings exceed 5 % in any week, the tool is off by default until she turns it back on. Not a recommendation — a rule.Именно — значит, названный человек. Управляющая практикой подписывает ежемесячный отчёт и может отменить решение инструмента для любого пациента; пока она не подписала, отчёт не считается. И аварийный выключатель: если двойных записей больше 5 % за любую неделю, инструмент выключен по умолчанию, пока она не включит его снова. Не рекомендация — правило.
• Emma: And the data itself? Patients didn't consent to being predicted.А сами данные? Пациенты не соглашались на то, чтобы их предсказывали.
• Alex: They didn't, and that's principle three: opt-out, clearly offered, and the default for anyone under eighteen is out. On the understanding that the clinic can't sell or share the predictions with anyone other than the clinic itself — that isn't negotiable. Except when a patient asks to see their own score, which they should be permitted to do.Не соглашались, и это принцип третий: возможность отказаться, ясно предложенная, а для всех младше восемнадцати по умолчанию — отказ. Исходя из того, что клиника не может продавать или передавать предсказания никому, кроме самой клиники, — это не обсуждается. Кроме случаев, когда пациент просит показать свой собственный балл, что ему должно быть разрешено.
• Emma: That's four principles, a taxi and a kill switch. Anything you'd make optional?Это четыре принципа, такси и аварийный выключатель. Что-нибудь оставишь по желанию?
• Alex: The 15 %. The clinic may set the overbooking level at its discretion — but at minimum it starts at 5 % for a three-month pilot, and it must not rise unless the audit shows the taxi rule was needed fewer than ten times. Everything else is mandatory, or we don't buy it.Те 15 %. Клиника может устанавливать уровень перезаписи на своё усмотрение — но как минимум он начинается с 5 % на трёхмесячный пилот и не должен расти, если аудит не покажет, что правило с такси понадобилось меньше десяти раз. Всё остальное обязательно, или мы это не покупаем.