Обучал ли ваш Gmail искусственный интеллект Барда?

Обучал ли Gmail Барда?

На прошлой неделе стал вирусным твит, в котором ИИ Bard от Google утверждал, что он был обучен на данных Gmail.

Umm, anyone a little concerned that Bard is saying its training dataset includes... Gmail?

I'm assuming that's flat out wrong, otherwise Google is crossing some serious legal boundaries. pic.twitter.com/0muhrFeZEA

— Kate Crawford (@katecrawford) March 21, 2023

Сами представители Google поспешили ответить , объяснив, что

"Bard - это ранний эксперимент, основанный на больших языковых моделях, и он будет допускать ошибки. Он не обучен на данных Gmail".

Google сделал более пространное заявление для The Register, новостного издания о технологиях:

"Как и все LLM, Bard иногда может генерировать ответы, содержащие неточную или вводящую в заблуждение информацию, при этом представляя ее уверенно и убедительно. Это как раз такой пример. Мы не используем личные данные из вашего Gmail или других частных приложений и сервисов для улучшения Bard".

Если вы беспокоитесь, что ваши личные электронные письма обучают Барда, обратите внимание на альтернативу Gmail - Tutanota.

Какие данные используются для обучения Bard?

Выяснить, какие данные были использованы для обучения Bard, не так-то просто. Пока Google не публикует, какие наборы данных используются, никто не может знать наверняка, кто прав: Bard или Google.

Блейк Лемуан, бывший сотрудник Google, который был уволен за утечку секретов Google и который считает, что большая языковая модель (LLM) LaMDA компании Google была разумной , ответил на твит, сказав:

"Движок LaMDA, лежащий в основе Bard, также является движком автозаполнения и автоответчика в Gmail, так что... да, обучающие данные Bard включают Gmail.
FWIW, они приложили много усилий, чтобы гарантировать, что LaMDA не использует личную информацию о людях в своих ответах".

Мередит Уиттакер, президент компании Signal, переводит разговор в совершенно другое русло, заявляя:

"ИИ" - это продукт концентрированной власти, и мы на свою беду отвлекаемся от политико-экономических реалий.
Говоря иначе, то, что BARD обучается на Gmail или нет, менее скандально, чем тот факт, что только Google и несколько других компаний, занимающихся слежкой, могут сделать BARD."

Ваши данные - это новая нефть

Поговорка верна уже несколько десятилетий: Ваши данные - это новая нефть.

Рост программного обеспечения ИИ, разработанного огромными технологическими корпорациями, еще раз доказывает это: Microsoft, Google и Baidu смогли разработать свои модели ИИ ChatGPT, Bard и Ernie только потому, что у них есть огромное количество данных, которые они могут использовать для обучения этих чат-ботов.

Проблема, однако, заключается в том, что эти компании не особенно известны тем, что защищают конфиденциальность пользователей. Именно поэтому многим людям трудно доверять Gmail и Co, а также поэтомуChatGPT недавно былописан как "кошмар конфиденциальности".

Вы платите своими данными

Всякий раз, когда вы пользуетесь Интернетом, особенно если вы пользуетесь "бесплатной" услугой, вы платите своими данными.

Во времена Больших Данных и искусственного интеллекта ваши данные - это новая нефть. Ваши данные - это дойная корова для Google, Microsoft, Baidu и других. Не платя напрямую этим службам, вы платите за то, что вам показывают рекламу, которая заставляет вас покупать то, что вам не обязательно нужно или вы бы не купили по такой цене без постоянной рекламной бомбардировки.

Кроме того, эти компании используют ваши данные для создания совершенно новых продуктов, которые стоят миллионы, таких как чат-боты с искусственным интеллектом. И здесь Мередит Уиттакер из Signal совершенно права: нехорошо, что только капиталисты, занимающиеся слежкой в сфере Big Tech, имеют настолько большие массивы данных, что могут создать Bard или ChatGPT.

Политики должны внимательно следить за этим развитием и убедиться, что эти крупные технологические компании не смогут злоупотреблять своей монопольной властью над данными каждого.

Выбирайте приватность

Если вы сами хотите что-то изменить, вы можете перестать кормить монополистов слежки в Интернете, выбирая при работе в сети сервисы, ориентированные на конфиденциальность.

Чтобы убедиться, что ваши личные электронные письма не могут быть использованы для обучения Bard - или любого другого искусственного интеллекта, - вы можете создать защищенный адрес электронной почты в Tutanota. В Tutanota все ваши данные шифруются из конца в конец, что гарантирует, что ваши личные письма останутся конфиденциальными и никто не сможет злоупотребить вашими данными.