Apple afirma que sua IA estabelece um ‘novo padrão’ de privacidade e convida especialistas em segurança para testá-la

Quando se trata de usar IA generativa, você pode confiar na Apple?

Essa foi uma pergunta que a empresa não mediu esforços para responder com o lançamento do “Inteligência da Apple“a frase de efeito para todas as funcionalidades da geração AI que promete trazer aos usuários de iPhone, iPad e Mac nas próximas versões de seu software de sistema operacional neste outono.

O CEO da Apple, Tim Cook, e sua equipe, falando durante o discurso de abertura na empresa conferência anual de desenvolvedores na segunda-feira, descreveu o Apple Intelligence como um “sistema de inteligência pessoal” que entende o contexto de todos os seus dados pessoais para que possa fornecer “inteligência que é incrivelmente útil e relevante” e, assim, tornar o seu “dispositivos ainda mais úteis e agradáveis.”

Para fazer as conexões significativas necessárias “para compreender e criar linguagem e imagens, agir em aplicativos e aproveitar o contexto pessoal para simplificar e acelerar as tarefas diárias”, a Apple precisa que você permita que ela explore e processe todos os dados armazenados no software e serviços que você usa em seus dispositivos. Isso inclui textos, mensagens, documentos, e-mails, fotos, arquivos de áudio, vídeos, imagens, contatos, calendários, histórico de pesquisa e conversas da Siri.

Em seguida, usando seus modelos de linguagem grande (LLMs) de geração de IA e seus chips de computador personalizados para processar essas informações, a Apple diz que será capaz de ajudá-lo a escrever e-mails e textos; transcrever e resumir mensagens; edite sua gramática; verifique facilmente mensagens, e-mails e calendários para eventos futuros; limpar fotos; crie um filme de memória; e obtenha melhores resultados de pesquisa usando o Siri e o mecanismo de pesquisa Safari.

Você também poderá criar e compartilhar originais Genmojisemojis habilitados para IA gerados a partir de uma descrição em linguagem natural que você fornece (exemplo: carinha sorridente relaxando, usando pepinos) ou com base em fotos de seus amigos e familiares.

Tudo isso exige que você confie na Apple para manter seus dados privados e seguros. É por isso que a empresa disse em seu palestraem seu comunicado de imprensa geralem um comunicado de imprensa sobre privacidade e em uma postagem em seu site de segurança que foi criado um “novo padrão de privacidade em IA”.

Os analistas estão dispostos, até agora, a dar à Apple o benefício da dúvida.

“A Apple deixou claro que pretende manter a privacidade dos dados tanto no dispositivo quanto na nuvem”, disse Carolina Milanesi, analista de longa data da Apple e fundadora da consultoria. O coração da tecnologia. “É claro que eles estão sendo muito transparentes sobre sua tecnologia e controlando a experiência de ponta a ponta. A maioria dos consumidores confia na Apple e por causa do retorno que verão com a Apple Intelligence, eles não pensarão nisso duas vezes.”

A privacidade da IA ​​tem tudo a ver com confiança

Com certeza, a Apple não é a única empresa de IA que pede que você confie todos os seus dados. Google, Microsoft, Meta e outros pretendem oferecer a você novas maneiras de fazer coisas que, segundo eles, só são possíveis com a geração AI, que também precisará de seus LLMs e chatbots de geração AI para ingerir e digerir seus dados para que possam transformá-los em IA. E também dizem que protegerão sua privacidade e não compartilharão informações de identificação pessoal com ninguém.

Mas o que dá Analista da IDC Francisco Jerônimo um pouco mais de confiança na abordagem da Apple é que a marca e o modelo de negócios da empresa são baseados na privacidade do usuário. Ao contrário do Google e do Meta, que ganham a maior parte de seu dinheiro entregando anúncios personalizados lucrativos aos usuários com base no conhecimento de algo sobre suas preferências pessoais (novamente, eles dizem que os dados do usuário são anonimizados e nunca compartilhados), a Apple ganha dinheiro com hardware, como o iPhone e de serviços como App Store, iTunes e Apple TV.

“Todos nós sabemos que a Apple não ganha dinheiro com a venda de nossos dados, ao contrário de outros players. É uma de suas formas de se diferenciar de seus concorrentes”, disse Jeronimo em entrevista. “Se não podemos confiar todos os dados à Apple, então em quem podemos confiar?”

Usando apenas os dados necessários

O novo padrão da Apple para segurança de IA visa garantir que seus dados estejam protegidos e seguros, seja a ingestão, digestão e manipulação de todos esses dados em seu dispositivo pessoal (também conhecido como processamento local ou no dispositivo) ou se uma IA complexa a tarefa precisa ser transferida para servidores de computador mais poderosos na nuvem, executando chips Apple personalizados.

A promessa da Apple, como parte de seu novo Computação em nuvem privada padrão, é que, assim como lida com o processamento no dispositivo, a empresa “usa seus dados apenas para atender sua solicitação e nunca os armazena, garantindo que nunca estejam acessíveis a ninguém, incluindo a Apple”.

Em uma coletiva de imprensa com repórteres após a palestra da WWDC, o chefe de software Craig Federighi discutiu a abordagem de nuvem privada da Apple e a quantidade de informações pessoais necessárias para fornecer inteligência baseada no contexto.

“A computação em nuvem normalmente apresenta alguns compromissos reais quando se trata de garantias de privacidade, porque se você fizer solicitações à nuvem, bem, a nuvem tradicionalmente poderia receber essa solicitação, e quaisquer dados incluídos nela, e ir direto para o arquivo de log, salve-o em um banco de dados, talvez coloque-o em um perfil sobre você”, disse ele, observando que você está “colocando muita fé” nas empresas para proteger suas informações.

“À medida que avançamos com a IA e você depende cada vez mais de tipos de solicitações mais pessoais”, acrescentou Federighi, “é essencial que você saiba que… ninguém mais teria acesso a qualquer informação usada para processar solicitações de.”

Jeronimo, da IDC, também aplaude a empresa por convidar pesquisadores de segurança e criptógrafos independentes para inspecionar o código executado em servidores de computação em nuvem privada para avaliar se funciona da maneira que a Apple afirma.

“Os investigadores de segurança precisam de ser capazes de verificar, com um elevado grau de confiança, se as nossas garantias de privacidade e segurança para a computação em nuvem privada correspondem às nossas promessas públicas”, afirmou a empresa. em um blog de segurança postar na segunda-feira.

“Hipoteticamente, então, se os investigadores de segurança tivessem acesso suficiente ao sistema, seriam capazes de verificar as garantias. Mas este último requisito, transparência verificável, vai um passo além e elimina o hipotético: os investigadores de segurança deve ser capaz de verificar as garantias de segurança e privacidade da computação em nuvem privada, e eles deve ser capaz de verificar que o software que está sendo executado no ambiente de produção do PCC é o mesmo que eles inspecionaram ao verificar as garantias.”

“O problema mais difícil em segurança de computadores”

Mateus Verdeprofessor associado de ciência da computação que ensina criptografia na Universidade Johns Hopkins, disse em um tópico no X que ele aprecia a abordagem da Apple, mas ainda tem dúvidas. Eles incluem se os usuários podem optar por não ter suas solicitações processadas na “nuvem privada”. A Apple, diz ele, ainda não detalhou seus planos.

“Construir computadores confiáveis ​​é literalmente o problema mais difícil em segurança de computadores. Honestamente, é quase o único problema em segurança de computadores”, escreveu Green após ler a postagem do blog Private Cloud Compute. “Mas embora continue sendo um problema desafiador, fizemos muitos avanços. A Apple está usando quase todos eles.”

Teremos que esperar e ver como isso se desenrola. Apple Intelligence estará disponível em beta como parte do iOS 18, iPadOS 18 e MacOS Sequoia neste outono nos EUA, disse a empresa.

Mas mesmo que seus olhos fiquem vidrados ao ler sobre IA, privacidade e segurança, processamento no dispositivo e computação em nuvem, vale a pena saber algo sobre tudo isso. Os dispositivos habilitados para IA serão o segmento de crescimento mais rápido para smartphones e PCs, de acordo com a IDC. O pesquisador de mercado acredita que os smartphones com IA atingirão 170 milhões de unidades em 2024 e que os PCs com IA representarão quase 60% de todos os PCs vendidos até 2027.

A IA será uma parte inevitável dos nossos dispositivos da próxima geração – e da nossa vida quotidiana.

Nota do editor: A CNET usou um mecanismo de IA para ajudar a criar várias dezenas de histórias, que são rotuladas de acordo. A nota que você está lendo está anexada a artigos que tratam substancialmente do tópico de IA, mas são criados inteiramente por nossos editores e escritores especializados. Para mais, veja nosso Política de IA.