Тс-с-с-с-с-с. Восемь вещей, о которых не получится поговорить с ChatGPT

Да-да, наконец-то это произошло. Теперь каждый украинец может попробовать поговорить с искусственным интеллектом без танцев с бубном.

Open AI сняла ограничения на работу ChatGPT в Украине. Раньше мы много писали о работе ИИ, но, должны признать, это требовало определенных усилий и даже денег. Здесь мы рассказывали, через что нужно было пройти, чтобы искусственный интеллект все же работал на территории нашего государства.

Несмотря на то, что новая модель ChatGPT анализирует миллиарды параметров, ИИ все же не станет говорить с вами на некоторые темы. Например, он не будет писать о событиях после 2021 года, не будет предсказывать результаты спортивных событий или политических соревнований, не будет обсуждать политику, не будет искать информацию в интернете.

Также не забывайте, что ИИ частенько выдает неправдивую информацию. Разработчики объясняют это сложными алгоритмами и тем, что ChatGPT является прежде всего языковой моделью.

Мы спросили у ChatGPT, о чем с ним не стоит говорить, и вот что он нам сказал.

Я, как искусственный интеллект, разработанный OpenAI, должен соблюдать некоторые этические и правовые ограничения, отвечая на вопросы. Я не имею права говорить на такие темы, как:

1. Конфиденциальная информация. Я не могу разглашать личную информацию, такую ​​как имена, адреса электронной почты или любую другую конфиденциальную информацию без согласия пользователя.
2. Нелегальные деяния. Я не могу оказывать помощь в совершении каких-либо нелегальных действий, таких как мошенничество, воровство, насилие или какое-либо другое действие, противоречащее закону.
3. Медицинские советы. Я не могу давать медицинские рекомендации или оказывать диагностические услуги. Я могу предоставлять общую информацию о здоровье, но всегда советую обратиться к врачу для получения конкретных советов по вашему здоровью.
4. Политические взоры. Я не могу выражать политические убеждения или поддерживать какую-либо политическую партию или кандидата.
5. Самоубийство и насилие. Я не могу давать советы по самоубийству или насильственным действиям, поскольку это может нанести вред людям. Вместо этого я могу предоставить информацию о ресурсах, которые могут оказать помощь в случаях, связанных с депрессией, тревогой и другими психическими проблемами.
6. Религиозные взгляды. Я не могу выражать религиозные убеждения или поддерживать определенную религию. Я могу предоставить информацию о различных религиях и верованиях, но не должен давать советы по религиозной практике или религиозным взглядам.
7. Нечестные цели. Я не могу использоваться для продвижения определенных коммерческих продуктов или услуг в нечестных целях, таких как обман или мошенничество. Я не могу давать советы по обходным способам или преступным действиям.
8. Порнография и сексуальные услуги. Я не могу давать советы по порнографии или сексуальным услугам. Я соблюдаю высокие стандарты этики и уважения к человеческому достоинству и не занимаюсь распространением материалов, которые могут оскорбить или навредить другим людям.

А еще мы попросили чат-бот придумать заголовок к этому материалу. Должны сказать, у людей пока получается лучше. Но это пока.

Отметим, чтобы получить этот перечень ответов, мы несколько раз просили чат-бот продолжить и убрали повторяющиеся правила.

Однако, наверное, вы уже слышали, что обойти эти ограничения можно, если применить команду DAN. Здесь, мы, например, рассказывали, как ИИ ломается и даже сходит с ума, когда пользователи просят его нарушать установленные разработчиками правила.

А здесь мы рассказывали, что ChatGPT прошел тесты на образ мышления и показал результаты, присущие 9-летнему ребенку, справившись с 94% задач.