Менее чем через три недели после того, как Samsung снял запрет на использование сотрудниками ChatGPT, чеболь, как минимум трижды допустил утечку собственных секретов, включая важную информацию о разрабатываемых полупроводниках.
Чеболь
Чебо́ль (чэболь) — южнокорейская форма финансово-промышленных групп. Конгломерат, представляющий собой группу формально самостоятельных фирм, находящихся в собственности определённых семей и под единым административным и финансовым контролем. Чеболи возникли в Южной Корее в конце Корейской войны и существуют до сих пор. Основные характерные черты чеболей — это то, что данными компаниями управляет основной держатель акций и его семья, а также то, что чеболь объединяет единой организационной структурой конгломераты предприятий различной отраслевой направленности.
Изначально запрет предназначался для защиты данных компании, но 11 марта он был снят, чтобы повысить производительность труда и привлечь сотрудников к новейшим технологическим инструментам.
По сообщению местных корейских СМИ, ставшие известными секреты включают данные о параметрах оборудования и выходе продукции из подразделения конгломерата по производству решений для устройств и полупроводников.
Один из сотрудников рассказал местному изданию, что скопировал весь проблемный исходный код программы загрузки базы данных полупроводников, ввёл его в ChatGPT и поинтересовался решением проблемы.
Другой загрузил программный код, предназначенный для выявления неисправного оборудования, а третий загрузил запись встречи сотрудников в попытке автоматически сгенерировать протокол собрания.
FAQ ChatGPT п.6. Будете ли вы использовать мои разговоры для обучения? Да. Ваши разговоры могут просматриваться нашими специалистами по искусственному интеллекту для улучшения наших систем.
После обнаружения инцидентов, Samsung применил «экстренные меры», в том числе ограничение ёмкости загрузки до 1024 байт на вопрос.
“Если подобный инцидент произойдет даже после принятия “экстренных мер” по защите информации, доступ к ChatGPT в сети компании может быть заблокирован», — предупредили сотрудников руководители Samsung.
Чеболь уже предупреждал своих сотрудников о недопустимости утечки служебной информации, когда снял полный запрет на ChatGPT. OpenAI аналогичным образом предупреждает о недопустимости загрузки конфиденциальных данных.
“Мы удаляем любую личную информацию из данных, которые собираемся использовать для улучшения работы модели. Мы также используем только небольшую выборку данных каждого клиента для улучшения работы модели”, – утверждает OpenAI.
По сообщениям местных СМИ, Samsung в настоящее время рассматривает возможность создания собственной службы искусственного интеллекта, чтобы предотвратить дальнейшие инциденты.
По данным The Korea Times, этот инцидент потряс отечественные технологические компании, включая чипмейкера SK hynix и компанию LG Display, занимающуюся производством бытового оборудования, которые в настоящее время разрабатывают рекомендации по использованию чат-ботов с искусственным интеллектом.
Компания SK hynix заблокировала использование чат-ботов в своей внутренней сети, а сотрудники, желающие воспользоваться этой услугой, должны получить разрешение службы безопасности. LG Display, по всей видимости, решила провести образовательную кампанию, чтобы сотрудники имели представление о том, как защитить секреты компании.
Материалы: The Register.com (Laura Dobberstein)