A Música nos Ossos da Era Digital: Como o Negócio de TI Moderno Priva os Usuários de sua Agência

8K+ Alcance em 30 dias TsNIS Moldando o futuro da Rússia em IA 6 Assinantes Assinar ceo_tsnis Há 5 minutos A Música nos Ossos da Era Digital: Como o Negócio de TI Moderno Priva os Usuários de sua Agência 4 minutos 44 Blog da empresa TsNIS Segurança da informação * Inteligência artificial "Posso não me registrar - vamos discutir tudo como antes?" - reclamou um antigo cliente de um serviço respeitado quando lhe ofereceram para criar uma conta em uma nova plataforma.

Hoje, uma clínica médica é escolhida por pessoas decentes não pela classificação, nem pelos médicos, nem pela localização. Mas por quem terá a anamnese após o tratamento. Os resultados de seus pacientes já foram alguma vez disponibilizados ao público? Se não, você pode arriscar. Não há garantias, porém.

Isso não é paranoia ultraciberpunk. É uma fadiga acumulada do acordo que não fizemos, mas somos forçados a cumprir. Nossa geração concordou em trocar a conveniência pela transparência da vida privada - concordou silenciosamente, por padrão, marcando a caixa sob o contrato do usuário.

Achamos que, para um táxi que chega em três minutos, pagamos dois dólares. Ou nos alegramos com os Maybachs baratos em Moscou - quinze. Mas, na realidade, pagamos com o fato de que alguém pode se familiarizar com nosso histórico de viagens. Analisar endereços, horários, regularidade.

Pelo mesmo erro, parece-nos que Miro, Figma, Google Drive convenientes nos custam uma xícara de café por mês. Na realidade, alguns têm que pagar por essa conveniência com anos de liberdade: a pessoa carregou evidências contra si mesma na nuvem. Que tabela conveniente.

O Grande Google está de olho em você

Senhas engenhosas, autenticação de dois fatores, direitos de acesso, higiene digital - nada disso realmente ajuda. Os termos do acordo são cumpridos por atores para os quais suas senhas são um rastro na água. Vazamentos. Acessos a painéis de administração para serviços especiais. Ex-oficiais de inteligência nos conselhos de administração. Insideres que emitem logs por duzentos dólares. Gerentes ressentidos que baixam a base de dados como despedida.

Deixamos de ser considerados sujeitos

Junto com a vida privada, perdemos nossa própria subjetividade. Para as plataformas digitais modernas, somos todos objetos. Objetos para marketing, desenvolvimento de produtos, análise. Uma vez discutimos essa ideia com Alexander Pavlovich Ryzhov, Doutor em Ciências Técnicas.

Para as plataformas, somos qualquer pessoa: tráfego, coortes, leads (rejeitados, não lucrativos, lucrativos), conversões, linhas em tabelas, material para testes A/B, assinantes. Qualquer pessoa - mas não sujeitos das relações "serviço - usuário".

Enquanto isso diz respeito ao feed de deslize de entretenimento - não há problema. Excluí o aplicativo - restaurei a subjetividade. Mas hoje, grandes plataformas, nas quais dezenas de milhares de pessoas fazem negócios e formam a receita dessas próprias plataformas, deixam de considerar seus pagantes como sujeitos. Lemos notícias do epicentro com interesse. O Reddit escreve regularmente.

E por quem os bancos nos consideram?

Um conhecido enviou uma captura de tela depois de assistir a "stories" no aplicativo de um grande banco. Ele recebeu duas ofertas personalizadas. Primeiro: "Empréstimo garantido por hipoteca de apartamento em Ostozhenka - 15 milhões, só hoje!" O segundo, não menos requintado: "Dinheiro garantido por hipoteca de Rolls-Royce Cullinan - 10 milhões". A personalização é assim: pega seu perfil de questionário e o devolve a você na forma de uma oferta direcionada, da qual você quer fechar a conta. O que o conhecido fez.

A questão não é sobre retrospectiva, mas sobre oportunidades

Em 2005, qualquer música podia ser baixada para um MP3 player, e ninguém perguntava por que estávamos ouvindo isso. Cada um escolheu por si mesmo. Os gráficos dos serviços de streaming de hoje são organizados de forma diferente - o algoritmo decide muito para o ouvinte.

Mas, na verdade, a ideia de devolver a escolha a si mesmo não é nova. Foi promovida por pessoas que, no início dos anos 80, trouxeram discos de vinil de viagens raras ao exterior, e então Beatles e Pink Floyd foram distribuídos pela tecnologia soviética "música nos ossos": as faixas foram gravadas em radiografias usadas. Essa foi a subjetividade devolvida - em sua forma mais literal, artesanal e teimosa.

Como eram os discos soviéticos quando a música era gravada clandestinamente em radiografias antigas A questão é apenas se reconhecemos que o usuário de hoje precisa dessa subjetividade não menos.

O que o TsNIS faz com isso

O Centro de Sistemas Intelectuais Nacionais parte de uma estrutura simples: o usuário é um sujeito, não um recurso. E esta não é uma declaração de valores para um comunicado de imprensa, mas uma questão de engenharia.

Quando investimos em startups de IA, avaliamos implementações corporativas ou consultamos clientes no setor público, a primeira pergunta que fazemos à equipe é:

qual funcionalidade em seu produto devolve o controle ao usuário?

Controle sobre dados, sobre escolha, sobre sua própria anamnese em seu sistema.

Se não houver uma resposta clara, o produto é construído sobre o mesmo acordo silencioso. Ele pode ser lançado. Ele pode até decolar. Mas funcionará à custa da confiança - sua e da indústria.

Tecnologicamente, devolver a subjetividade é uma tarefa que pode ser resolvida hoje. Modelos locais em vez de nuvem, onde apropriado. Arquiteturas com minimização dos dados coletados. Consentimentos explícitos, não ocultos. A capacidade do usuário de ver o que está sendo armazenado sobre ele e excluí-lo sem ligar para o suporte. Agentes de IA que trabalham do lado do usuário, e não do lado da plataforma. Este não é "IA ética" no sentido de um manifesto - é um conjunto de soluções técnicas que estão ou não no produto.

Para colegas das equipes de produtos

Profissionais de marketing, desenvolvedores, analistas. Equipes de aplicativos com milhões de usuários. Todos que estão lançando novos produtos agora.

O hábito de impor ao usuário o que inventamos e realmente queremos vender - a indústria tem. Mas esse hábito tem um prazo de validade claramente encurtado. O público lê a diferença entre "o produto funciona para mim" e "o produto trabalha em mim" muito mais rápido do que há cinco anos.

Nós, no TsNIS, estamos prontos para analisar tarefas de produtos específicas sob esse ângulo - no formato de consultoria, pesquisas conjuntas ou experiência em avaliação de investidores. A pergunta com a qual vale a pena começar:

qual funcionalidade podemos adicionar para devolver ao usuário sua subjetividade - e, ao mesmo tempo, não perder na economia do produto?

A experiência mostra que essas soluções geralmente melhoram ambas as métricas ao mesmo tempo.

Tags: confidencialidade dados dados do usuário digitalização grandes olhos