Лобушкин

Верховный суд Нью-Мексико оштрафовал адвоката на $5 тыс. Он придумал свидетелей убийства через ChatGPT. Стивен Ааронсон решил: а почему бы и нет — и в апелляции по делу об убийстве полностью сгенерировал полицейские и свидетельские показания. Если что, речь шла об апелляции человека с пожизненным сроком. Мы, конечно, всё понимаем: хочется быстрее закрыть дело, но представьте себе лицо судьи, читающего нейрохрючево в апелляции. Ну и лицо человека, который вдруг осознал, что его свобода напрямую зависит от галлюцинации ChatGPT. @lobushkin

Прочитали интересное мнение по поводу бегущих из ИИ-компаний исследователей от Тимнит Гебру (признанный специалист по этическим аспектам применения искусственного интеллекта). Она говорит, что это всё отвлекающий манёвр самой ИИ-индустрии. По её мнению, компании заинтересованы в апокалиптическом дискурсе, потому что это отвлекает от уже существующих проблем вроде автономного оружия, концентрации власти, эксплуатации труда. Кстати, мнение вполне логичное, потому что люди спорят об условном Скайнете, а не о реальных проблемах. Удобный пиар-нарратив. @lobushkin

#Мнения ИИ-шкандаль: китайские ИИ безбожно крали результаты "труда" американских ИИ, пересылая запросы пользователей более натренированным моделям - многие почему-то удивлены @mknewsru Anthropic обвинила китайские ИИ в том, что они перенаправляют запросы клиентов к ИИ Claude, а потом выдают полученные ответы за свои. Это касается как DeepSeek, так и Kimi. Владелец последнего чатбота, Moonshot, отправил Claude 300 000 запросов через 5380 аккаунтов всего за 10 дней, при этом использовались сингапурские и японские IP-адреса. Такой трафик позволил Anthropic получить доступ к конфиденциальным данным клиентов Moonshot в США, Европе и Китае. @mediastanciacom Самая крупная кампания пришлась на Alibaba: 151 млн запросов за три месяца через 3500 аккаунтов. Один и тот же промпт заставлял Claude раскрывать скрытую логику ответа, после чего эти данные можно было использовать для обучения Qwen. Moonshot действовал похожим образом, а часть запросов, как утверждает Anthropic, шла напрямую от китайских военных. Иронично: стартап, которому присудили выплаты в 1,5 миллиарда долларов за нарушение авторских прав при создании своих нейросетей, жалуется, что с ними поступают так же. @konservativnaya Из Anthropic уволился исследователь ИИ Джейкоб Коксон, работавший над предобучением больших моделей. После ухода он написал о том, что компании осознают риски создания сверхинтеллекта, вплоть до гибели человечества, но продолжают гонку, стремясь стать первыми. @htech_plus Сотрудник Anthropic Эван Хубингер оценил вероятность того, что ИИ уничтожит человечество в ближайшее десятилетие, более чем в 10%. По его словам, в компании всерьез допускают такой сценарий, но признают: плана по согласованию целей сверхинтеллекта с человеческими пока нет, хотя компания «делает всё возможное». @ramzayiegokomanda Компания Anthropic заявила, что заблокировала доступ нескольких ученых к платформе Claude для проведения биологических исследований, которые потенциально могли бы способствовать разработке биологического оружия. Компания не смогла установить, являлись ли эти исследования законными или злонамеренными. @lobushkinflash Anthropic заблокировала аккаунты, через которые Claude использовали в работе российских государственных СМИ. По данным компании, нейросеть готовила материалы для РИА Новости, RT и Sputnik, переводила их для аудитории Молдавии, Африки и Латинской Америки, а также убирала оговорки о непроверенных утверждениях, чтобы выдавать их за подтверждённые факты. @klubniy_servis Но… Почему же они не пользовались Гигачатом от Сбера?! Неразбериха. @zhivoff Первым делом новый ИИ пойдёт туда, где сразу видны власть и эффект: контроль над людьми, извлечение денег и война. Кто решит, что это всё ещё «чат для картинок», проспит смену субъекта истории. @Russica2