Я завалил интервью в Антропик, но пришел поделиться опытом
Антропик - те чуваки, которые делают Claude. Альтернатива ChatGPT от OpenAI с оооочень серьезными инвестициями от Amazon. По легенде у них есть модель сильнее o3 от OpenAI, но он настолько угорели по безопасности, что боятся ее релизить.На что подавался: Research Fellowship.Из необычного, они попросили указать контакты референсов - ребят, с которыми вы работали, и которые могут дать на вас фидбек. Да-да, теперь такое не только в академии!Интервью проходило в несколько этапов:1. Онлайн-кодинг (полтора часа).
Новая система безопасности на основе AI от Anthropic попала в руки хакеров за считанные дни
Всего за шесть дней с момента запуска проекта кому-то удалось обойти все механизмы безопасности, разработанные для защиты модели искусственного интеллекта Anthropic.Ян Лейке, бывший член команды по выравниванию OpenAI, ныне работающий в Anthropic, объявил на X, что один участник успешно преодолел все восемь уровней испытания. Коллективные усилия включали около 3700 часов тестирования и 300 000 сообщений от участников. Однако Лейке отмечает, что пока никто не нашел универсального джейлбрейка, который мог бы решить все уровни испытания сразу.
Гендиректор Anthropic: DeepSeek показал себя «худшим» в тесте безопасности данных о биологическом оружии
Генеральный директор Anthropic Дарио Амодеи обеспокоен работой китайской DeepSeek и её моделью R1. В интервью подкасту ChinaTalk Джордана Шнайдера он сказал, что DeepSeek сгенерировала информацию о биологическом оружии в ходе теста безопасности.Производительность DeepSeek оказалась «худшей из всех моделей, которые мы когда-либо тестировали», заявил Амодеи. По его словам, у модели «нет никаких барьеров против генерации чувствительной информации».
Anthropic просит кандидатов не использовать нейросети в откликах на вакансии
В вакансиях на сайте компании Anthropic, которая разрабатывает семейство языковых моделей Claude, заметили просьбу не использовать нейросети для откликов. Компания хочет оценить коммуникативные навыки будущего сотрудника, а не возможности чат-бота.Страница отклика на вакансию на сайте Anthropic состоит
Anthropic представила новый метод защиты больших языковых моделей от взломов
Спустя два года после появления ChatGPT на рынке появилось множество больших языковых моделей (LLM), и почти все они по-прежнему уязвимы для взлома — специальных запросов и других обходных путей, которые заставляют их генерировать вредоносный контент.
Генеральный директор Anthropic опровергает слухи о стоимости разработки Claude 3.5 Sonnet
Генеральный директор Anthropic Дарио Амодеи хочет развеять некоторые заблуждения о Claude 3.5 Sonnet. Разработка модели AI обошлась гораздо дешевле, чем предполагают недавние слухи, и она не была создана с использованием более продвинутых секретных моделей, как утверждают некоторые.По словам Амодеи, обучение Claude 3.5 Sonnet
Новая функция Citations от Anthropic направлена на сокращение ошибок AI
В своем объявлении, которое возможно было приурочено к тому, чтобы отвлечь внимание от Operator компании OpenAI , компания Anthropic Thursday представила новую функцию для своего API для разработчиков под названием Citations , которая позволяет разработчикам "привязывать" ответы из семейств искусственного интеллекта Claude к исходным документам, таким как электронные письма.
Генеральный директор Anthropic: прорыв в области AI и запуск «виртуальных сотрудников»
Генеральный директор Anthropic, Дарио Амодей, предвещает значительный прогресс в развитии AI-помощников в этом году, включая запуск «виртуальных сотрудников», способных самостоятельно выполнять сложные задачи, и новой модели. На Всемирном экономическом форуме в Давосе он рассказал о будущих AI-системах, которые смогут выполнять задачи, такие как написание и тестирование кода, общение с коллегами и подготовка документов, взаимодействуя с пользователями лишь изредка.
FT: Anthropic получит свыше $1 млрд от Google
Компания в сфере искусственного интеллекта Anthropic получит более $1 млрд инвестиций от Google, пишет Financial Times со ссылкой на четырёх источников. По их словам, IT-гигант уже вложил в конкурента OpenAI около $2 млрд и продолжает увеличивать долю в Anthropic.
