Яндекс.Разврат или анти-этичный ИИ
tl;dr: как обойти внутреннюю цензуру «Шедеврума» и получить то, что хочешь. Описание реализованных состязательных атак с примерами реализации. Без глубокого раскрытия механизма почему так получается.
ChatGPT может снова сделать медицину более человечной
Системы искусственного интеллекта, такие как ChatGPT, берут на себя функции, которые раньше выполняли врачи, — не потому, что они более компетентны в медицине, а потому, что они не ограничены временем, бюрократией или усталостью.
Страх перед ИИ — кривое зеркало
Восставший цифровой разум, разрушающий наши стереотипы«Прометей дал людям огонь, зная, что за это его ждут муки. Мы даём машинам разум, осознавая последствия. Но без риска нет прогресса. Без огня — нет света.»— Раэль, Солиген*«Может ли искусственный интеллект обрести самосознание?»
Гендиректор Anthropic предложил дать ИИ кнопку «уйти с работы»
Генеральный директор Anthropic Дарио Амодеи предположил, что продвинутые модели ИИ в будущем смогут просто «нажимать кнопку», чтобы прекратить выполнение задач, которые кажутся им «неприятными». Амодеи заявил об этом во время интервью в Совете по международным отношениям, признав, что сейчас идея «звучит безумно».
Super Ethical Reality: о чем нужно задуматься прежде, чем использовать LLM в разработке
Стоит ли нам доверять тому, что не способно осознавать последствий своих действий? Кажется, что ответ очевиден, но по мере развития ниши лингвистических моделей мы всё чаще поручаем ИИ выполнять за нас часть рутинных задач.Меня зовут София, я сотрудница RnD-отдела компании Raft
