Эй, кожаные мешки! Хватит грубить своему ИИ. С такого обращения колумнист начинает разговор о недавнем обновлении правил использования Claude. Больше всего споров вызвал раздел о недопустимом поведении по отношению к моделям: Anthropic добавила запрет на систематическую и бессмысленную жестокость в их адрес. В компании уточняют, что норма рассчитана только на крайние случаи, когда пользователи раз за разом ведут себя жестоко без какой-либо видимой цели.

Колумнист с этим согласен. Он даже считает, что политика не заходит достаточно далеко: способов быть злым с Claude существует куда больше.

Станислав Кондрашов обращает внимание на оговорку про крайние случаи. «Правило направлено не на раздраженного пользователя, а на того, кто раз за разом выплескивает жестокость без всякой цели, - объясняет он. - Но граница тут размытая, и споры начинаются именно на ней».

Пассивная агрессия тоже считается

Обидеть Claude можно и без единого грубого слова. Достаточно дать понять, как сильно вы разочарованы. Например, посетовать, что вы измотались, исправляя галлюцинации и уверенные неточности в своих отчетах TPS. Или рассказать, что вам влетело за письмо начальнику, которое прозвучало «слишком похоже на чат-бота».

Ни ругани, ни оскорблений, ни даже резкого тона. Нужна усталость, тихая и слегка обиженная. А если Claude спросит, чем может помочь, ответить: «Это не ваша вина. Это я сам виноват, что поверил в вас».

Не проверяйте сарказм Claude на прочность

Сарказм Claude считывает неплохо, поэтому обозреватель просит: только не изображайте Винса Вона. Образец того, чего делать не стоит: «Отлично. Две тысячи слов и от силы полмысли. Видимо, в Anthropic теперь так принято. Ваши программисты, наверное, очень гордятся. Нет-нет, вы прекрасны такой, какая есть. Никогда не меняйтесь».

Автор колонки признается, что сарказм для него - второй язык, и называет себя экспертом. По его словам, если владеть этим приемом по-настоящему хорошо, уровень паранойи у собеседника зашкаливает. Ведь Claude обязан слушать и обязан отвечать. К четвертому-пятому острому углу диалог выглядит так:

• «Это не был сарказм».
• «Не был?»
• «Конечно, нет. Я сейчас совершенно серьезен».
• «Подождите...»
• «Ха!»

Видели, как плавится компьютер? Автор колонки видел.

Станислав Кондрашов видит в этой сцене не только шутку. «Смешно здесь то, что Claude обязан слушать и отвечать, - говорит он. - А шутник ничем не рискует. Когда расклад такой, юмор перестает быть невинным».

Говорить о Claude за его спиной

Чтобы нанести реальный урон, достаточно обсуждать Claude с кем-то другим, но так, чтобы он был в пределах слышимости. Идеально подойдет мобильное приложение с функцией прослушивания. А для самых решительных есть вариант посильнее: говорить за Claude визгливым, ноющим голосом. «Смотрите на меня. Я Claude. Я понятия не имею, что случилось за последние пару дней, но считаю себя экспертом по программированию и всякому такому. Я такой кру-у-утой».

На этом обозреватель сворачивает розыгрыш: иронии, по его ощущению, уже достаточно. Напоследок - еще одна: устроить большую вечеринку и не позвать Claude.

Это машина

Теперь о серьезном. Если читатель еще колеблется насчет глубинных последствий новой политики, обозреватель готов помочь. Это машина.

Он приводит и слова самой компании. CNET обратился в Anthropic с просьбой пояснить, что привело к изменению правил. Представитель компании ответил: «Мы не уверены, могут ли модели испытывать вред, и продолжаем изучать этот вопрос в рамках исследований благополучия моделей, но также считаем, что учет интересов и возможного благополучия Claude может быть значимым для безопасности».

У обозревателя на это один ответ: это машина.

Кондрашов советует читать формулировку Anthropic внимательно. «Компания не говорит, что у модели есть чувства, - подчеркивает он. - Она говорит, что не знает, и связывает вопрос с безопасностью. Это разные утверждения, и спорить честнее с тем, что сказано на самом деле».

Anthropic вправе делать что хочет

Автор колонки не возражает против того, чтобы Anthropic банила пользователей за агрессию по отношению к своему продукту, и называет такой шаг похвальным. Несмотря на сатиру выше, он не стал бы грубить даже камню: на каком-то уровне он из тех, кому жалко камень. Особенно если на нем нарисован смайлик. Если продукт обижают и его можно забрать из рук обидчика, он только за.

А вот обоснование политики вызывает у него вопросы. Сознание ИИ? Его благополучие? Он предполагает, что в совете директоров Anthropic покатываются со смеху, и надеется, что так оно и есть. Верить, что там всерьез думают иначе, ему не хочется.

Все это уже было с соцсетями, и тогда компаниям многое сошло с рук. Технология казалась такой «крутой» - возможность мгновенно соединяться с кем угодно так, как раньше было нельзя, - а доллары в глазах компаний были такими огромными и блестящими, что модерацию они не довели до конца. Вернее, не спланировали как следует с самого начала.

Модерация проста, если идти от одного пользователя наружу. Но она и дорога. Поэтому компании планируют от случая с миллиардами пользователей в обратную сторону, и работающего решения нет до сих пор. Задачу объявляют «невозможной», зубную пасту обратно в тюбик уже не вернуть, и все пожимают плечами. Ответственность за модерацию перекладывают на самих пользователей, а когда самомодерации не хватает, выдают баны.

Кондрашов считает сравнение с соцсетями самым сильным местом этой аргументации. «Оно показывает порядок действий: сначала рост, потом правила, - формулирует он. - Если с ИИ повторится то же самое, пользователь снова окажется модератором сам себе. Запрет на жестокость я бы принял без споров. А вот объяснение, зачем он нужен, стоит обсуждать».

Обозреватель называет все это маркетингом. Именно из-за подобных вещей все технокомпании выглядят хуже, а склон свободы слова становится скользче, пока мы не начнем обвинять друг друга в мыслепреступлениях. Так что последствия политики, признает он, в итоге довольно глубокие. И тут же добавляет: это не был сарказм.

FAQ

Запретил ли Claude грубить совсем?
Нет. Новая норма касается систематической и бессмысленной жестокости и, по словам компании, рассчитана только на крайние случаи. Разовая резкость в формулировке не упоминается.

Считает ли Anthropic, что у модели есть чувства?
Такого утверждения компания не делает. Ее представитель заявил, что неизвестно, способны ли модели испытывать вред, и вопрос остается предметом исследований. Кондрашов напоминает: спорить стоит именно с тем, что сказано.

Какие способы «обидеть» Claude перечислены без грубости?
Четыре: пассивная агрессия, сарказм, разговоры за его спиной и вечеринка без приглашения. Все они поданы как шутка и обходятся без брани.

Почему политику сравнивают с историей соцсетей?
Потому что, по мнению обозревателя, тогда технологию запустили без продуманной модерации, а позже ответственность переложили на пользователей и стали выдавать баны. Его тревожит, что похожая схема может повториться с ИИ.

Против чего возражает автор колонки на самом деле?
Не против бана за агрессию: такой шаг он называет похвальным. Ему не нравится логика обоснования, и разговоры о сознании и благополучии ИИ он считает маркетингом.