ChatGPT меняет правила: в каких случаях ИИ может вызвать полицию или санитаров

Дожились, теперь ЧатГПТ может заявить на Вас в полицию, и это я не шучу.

Это я говорю о существенном обновлении правил использования чата, которые представил лично Сэм Альтман. Как он написал, сложные решения, которые им необходимо принять.

Недавно в США произошла трагическая история. У подростка были проблемы с настроением и психикой. Он ни с кем не делился ими, кроме ЧатаГПТ, в какой-то момент начал говорить о самоубийстве. Чат его не остановил, и подросток таки так и поступил. И родители теперь обвиняют не себя, а как раз чат, и планируют подать на ОпенАИ в суд.

С другой стороны, я так понимаю, идет поток запросов от взрослых пользователей.

И ОпенАИ отреагировали на это все существенным изменением правил использования.

Теперь Чат будет специально тренирован отличать взрослых и подростков. И обращаться с ними будет по-разному.

С одной стороны, Альтман заявляет о более жестких правилах приватности. О том, что они построят систему, когда даже сотрудники ОпенАИ не могут получить доступ к приватным чатам. За некоторыми исключениями, о которых напишу дальше. С шифрованием и желанием такое сделать, такое конечно сделать можно.

Более того, Альтман говорит, что немало пользователей ведут очень интимные беседы с ИИ и что приватность этих бесед надо защитить не только на уровне правил отдельных компаний, но и законодательно. И что ОпенАИ ведет такую работу с законодателями. Чтобы приравнять разговоры с ИИ к разговору с врачом, врачебной тайне и так далее.

Но это не светит подросткам.

Важно Люди не хотят слышать правду от ИИ: почему многим не понравилась модернизация ChatGPT

Причем здесь такой интересный момент, что сам Чат будет пытаться понять, он говорит с подростком или со взрослым, в зависимости от поднятых тем и подхода к общению.

И вот если он классифицирует Вас как подростка, это уже аларм. Во-первых, часть тем он будет отказываться обсуждать. Во-вторых, если обнаружит, что у Вас проблемы с настроением, депрессией или там тем более мысли о суициде — постарается сообщить родителям, а если это ему не удастся — вызовет полицию. А Вы знаете нашу полицию, плохое настроение быстро вылечит.

С другой стороны, к взрослым отношение как к взрослым, такой новый слоган. Здесь свобода. Если хотите по-взрослому "пофлиртовать" с чатом, теперь он не будет от этого отказываться. Или обсудить тяжелые психологические темы, или даже описать тему суицида для Вашего исследования или литературного произведения. И эти разговоры будут более защищены, но с некоторыми исключениями.

Если Чат обнаружит, что Вы хотите нанести существенный вред себе, другим, или обществу, он может сообщить об этом сотрудникам ОпенАИ, и те уже будут на такую ситуацию реагировать. Поэтому, если вынашиваете планы захвата мира, такое лучше с Чатом не обсуждать, потому что еще вызовут санитаров.

Тут собственно тонкий момент — как Чат будет классифицировать взрослых и подростков. Я так понимаю, если задаете какие-то глуповатые детские вопросы, попадете в категорию риска. И здесь Чат проинструктирован "играть безопасно", если имеет сомнения, то будет лучше считать, что Вы подросток и вести себя соответственно. И поднимать тревогу.

Проверить просто — если Чат соглашается флиртовать по-взрослому, все ок. Если отказывается, это уже очень тревожный звоночек, санитары и полиция близко.

Теперь Чат, если сомневается, может и паспорт запросить, чтобы иметь доказательства, как с Вами обращаться. Вот такие дела.

Автор выражает личное мнение, которое может не совпадать с позицией редакции. Ответственность за опубликованные данные в рубрике "Мнения" несет автор.

Источник

Важно Конец секретам в ChatGPT: как ваша личная болтовня с ИИ может стать судебным документом