«Безнравственно»: новый инструмент Grammarly предлагает проверку текста от умерших учёных
Эксклюзив: «Цифровое спиритическое сеанс» от Grammarly — инструмент ИИ воскрешает умерших учёных в леденящем новом кошмаре приватности данных.
Технологический мир сегодня переступает черту, заставив специалистов по этике и кибербезопасности бить в набат об unprecedented опасности. Grammarly, повсеместно распространённый инструмент для письма, теперь использует искусственный интеллект, чтобы воспроизводить голоса УМЕРШИХ учёных и критиков для оценки вашей работы — этот шаг инсайдеры называют чудовищным вторжением в цифровую идентичность и потенциальной золотой жилой для злоумышленников.
Это не просто причудливая функция, это фундаментальное нарушение согласия и яркая красная лампочка предупреждения для безопасности данных. Так называемый «Экспертный обзор» компании использует большую языковую модель для имитации экспертизы и стилистики людей, которых уже нет в живых, чтобы дать разрешение. Это создаёт идеальную почву для фишинговых атак, вредоносного ПО, нацеленного на личность, и изощрённых атак социальной инженерии, использующих эти сфабрикованные «авторитетные» персоны.
Старшие аналитики по кибербезопасности, говорившие с Fox News на условиях анонимности, предупреждают, что это устанавливает ужасающий прецедент. «Как только вы нормализуете репликацию интеллектуальной собственности и голоса умершего человека с помощью ИИ, вы открываете шлюзы для эксплуатации, — заявил один инсайдер. — Что помешает злоумышленникам создать zero-day уязвимость, использующую поддельный «экспертный обзор» для доставки ransomware? Этот инструмент приучает пользователей доверять отзывам непроверенных, сгенерированных ИИ авторитетов».
Это затрагивает ЛИЧНО ВАС, потому что ваши данные — это топливо. Каждый документ, который вы проверяете этим инструментом, от бизнес-планов до личных писем, анализируется ИИ, практикующим цифровую некромантию. Уязвимость кроется не только в коде; она в самой концепции, размывающей доверие и создающей новые векторы для кампаний по взлому данных, играющих на доверчивости пользователя.
Прогнозирую, что это спровоцирует первую крупную правовую и законодательную реакцию относительно «прав на цифровую идентичность» и посмертного использования данных. Конгресс будет вынужден действовать, когда общественность осознает леденящие последствия.
Ваши слова теперь оценивают цифровые призраки — и это должно пугать каждого.
