Revista USP – Número 141 – abril/maio/junho 2024
Editora: SCS/USP
Idioma: Português
Confira abaixo os artigos deste número e dos anteriores.
A Revista USP também oferece acesso livre imediato ao seu conteúdo no Portal de Revistas da USP, seguindo o princípio de proporcionar maior democratização mundial do conhecimento
inteligência artificial na pesquisa científica
IA na ciência, na economia e na sociedade
No início de 2020, a Revista USP publicou o dossiê “Inteligência Artificial”. Continha textos que, sem abrir mão da profundidade, possuíam caráter introdutório, nos quais se tentava explicar a um público menos habituado ao universo das inovações tecnológicas o que de fato vinha a ser a tal da IA. Naquele momento (e, convenhamos, nem faz tanto tempo assim), o que se buscava era colocar o leitor em contato com algo que, já se sabia, tinha vindo para ficar. Em seguida, irrompeu a pandemia da covid e o mundo virou de cabeça para baixo. Mas as pesquisas em IA não se mantiveram confinadas. Pouco depois estávamos falando em ChatGPT, Whisper, DALL-E etc. E, claro, nas suas consequências. Também naquela ocasião, o professor Nestor Caticha, do Instituto de Física da USP, e coordenador daquele número, lamentava o fato de ter deixado de lidar, no dossiê, com vários outros temas, e que esperava que alguns deles fossem tratados, no futuro, nesta revista.
Como se vê, não precisamos esperar tanto. O presente conjunto de artigos foi pensado e organizado por Glauco Arbix, da Faculdade de Filosofia, Letras e Ciências Humanas e do Instituto de Estudos Avançados, ambos da USP. Mais uma vez, seu trabalho à frente do dossiê foi primoroso. Segundo ele, o ano de 2023 foi “marcado pela consolidação da inteligência artificial como ponto de apoio fundamental para o avanço científico e tecnológico”. Portanto, aqui não se trata mais de desvendar os mistérios da IA, mas sim de expor e refletir sobre suas aplicações, sobretudo aquelas voltadas para a pesquisa científica, seja na área da saúde, da agricultura, do direito, da urbanização ou das mudanças climáticas. Também são discutidas as questões éticas implicadas no manejo dessas tecnologias. Tudo de forma muito clara e objetiva, sem deixar de lado os aspectos negativos e os eventuais riscos à sociedade, decorrentes de toda sorte de mau uso. Daí a necessidade, como se verá nas próximas páginas, de uma IA responsável.
Excepcionalmente, neste número, não temos a seção Arte. Em contrapartida, a concepção gráfica está toda ela alinhada com o tema do dossiê, já que as imagens utilizadas tanto nas aberturas dos artigos como na capa foram criadas por meio de inteligência artificial. Espero que gostem.
Jurandir Renovato
Apresentação
Este dossiê apresenta um painel em que especialistas debatem como percebem e analisam o potencial da inteligência artificial (IA) na pesquisa científica, sem camuflar os riscos que representa para a vida em sociedade. A USP, mais uma vez, marca sua presença ao avaliar a mais poderosa tecnologia que a humanidade já criou.
Os embates tecnológicos e científicos ocorrem em meio ao esforço para integrar cada vez mais a IA na vida econômica e social, o que suscita dúvidas e medo sobre o grau de controle que a humanidade pode e quer ter sobre as novas tecnologias. A promessa de ganhos de produtividade e de eficiência contrasta com resultados adversos, algumas vezes inesperados, no mercado de trabalho, nas desigualdades sociais, na democracia. Dilemas éticos e morais surgem a cada experimento e justificam a busca de um marco regulatório capaz de colocar limites sem asfixiar a criatividade e a inovação.
Como se sabe, a IA não é fruto apenas de coders, que mergulham no mar de dados e atravessam circuitos eletrônicos, fascinados que são pelo silêncio dos laboratórios. A busca do algoritmo perdido envolve tensões econômicas e sociais, que moldam comportamentos e alteram os parâmetros dos modelos estatísticos.
Glauco Arbix
A inteligência artificial está cada vez mais presente em praticamente todas as áreas da ciência e tecnologia. O uso de tecnologias de IA tem o potencial de acelerar a produtividade dos pesquisadores e reduzir custos da pesquisa científica. Apesar dos benefícios, preocupações surgem em relação à opacidade das ferramentas de IA, que podem levar a consequências negativas, como discriminação, falsidades e desinformação científica, comprometendo a confiança pública na ciência. O artigo explora a implementação dos princípios de IA responsável nas organizações de pesquisa visando minimizar possíveis impactos negativos da IA na ciência.
Palavras-chave: IA responsável; transparência; inteligência artificial; IA ética; centralidade do humano.
Artificial intelligence is gaining prominence across every sector of science and technology. Leveraging AI technologies holds promise for boosting researchers’ productivity and cutting down on scientific research costs. However, concerns have emerged regarding the lack of transparency in AI tools, which may result in adverse outcomes like discrimination, scientific misinformation, and eroded public trust in science. This article delves into how research organizations are adopting responsible AI principles to mitigate potential negative effects on science.
Keywords: responsible AI; artificial intelligence; transparency; ethical AI; centrality of the human.
IA é cada vez mais imprescindível para o enfrentamento das mudanças do clima. Imagens de satélite e sensores produzem uma quantidade gigantesca de dados a cada segundo, que são compilados e analisados com ferramentas de IA. Modelos de previsão de tempo e modelos climáticos globais, de parametrização física altamente complexa, são explicitamente calculados com IA, que também otimiza as fontes de energia renováveis e as redes de distribuição de energia elétrica. Apesar dessas aplicações, desafios ligados à ética, à privacidade dos dados e ao impacto ambiental do treinamento da IA exigem atenção cuidadosa. O equilíbrio entre tecnologia e ética é crucial para garantir o uso responsável da IA na luta contra as alterações climáticas.
Palavras-chave: mudanças climáticas; modelos de previsão do tempo; IA e energias renováveis; Amazônia; ética e clima.
AI is increasingly essential for tackling climate change. Satellite images and sensors produce a huge amount of data every second. They are compiled and analyzed with AI tools. Forecast models, weather, and global climate models, with highly complex physical parameterization, are explicitly calculated with AI, which also optimizes energy sources, renewable energy, and electrical energy distribution networks. Despite these applications, challenges linked to ethics, data privacy, and the environmental impact of AI training require careful attention. The balance between technology and ethics is crucial for ensuring the responsible use of AI in the fight against climate change.
Keywords: climate change; weather forecast models; AI and renewable energy; Amazon; ethics and climate.
IA em saúde é uma realidade. Suas possíveis aplicações nas áreas de diagnóstico, pesquisa e interface entre provedores e pacientes são amplas e algumas já estão em uso, mesmo sem a certeza de que, em sua configuração atual, apresentem vantagens para os pacientes, provedores ou para a sociedade. As possibilidades, principalmente para IA generativa, são imensas. Entretanto, estudos apropriados devem ser conduzidos para validar o seu uso, não diferentes daqueles que se aplicam a qualquer avanço na área de saúde. Os próximos meses e anos trarão avanços no uso e nas fronteiras dessa tecnologia. Neste texto descrevemos algumas das utilidades e possibilidades da IA em saúde, seja na sua entrega, em pesquisa ou na gestão.
Palavras-chave: IA em saúde; IA na pesquisa diagnóstica; medicina ética; IA e relação paciente-saúde.
AI in healthcare is a reality. Its possible applications in areas such as diagnosis, research and interface between providers and patients are already in use, even without the certainty that, in their current configuration, they present advantages for patients, providers or society. The possibilities, especially for generative AI, are immense. However, rigorous studies must be conducted to validate its use, no different from those that apply to any advancement in healthcare. The near future will bring advances in the use and frontiers of this technology. In this text we describe some of the uses and possibilities of AI in healthcare, whether in its results, in research or in management.
Keywords: AI in healthcare; AI in diagnostic research; ethical medicine; AI and patient-health relationship.
O avanço da IA se reflete cada vez mais no direito, em variadas aplicações e técnicas. Nos últimos dez anos, diferentes projetos de uso de IA se institucionalizaram no sistema de justiça no Brasil. O presente artigo mapeia as implicações dessa transformação para a pesquisa em direito. Argumenta-se que, embora a IA jurídica tenha grande potencial, pode também levar a erros e até mesmo amplificar injustiças estruturais na sociedade. Por isso, o artigo identifica questões centrais para a discussão de quando, como e onde é desejável usar IA para a pesquisa jurídica.
Palavras-chave: IA e direito; tecnologia no Judiciário; pesquisa jurídica; aprendizado de máquina no direito.
The advancement of AI is increasingly reflected in law, in various applications and techniques. In the last ten years, different projects using AI have been institutionalized in the Brazilian judicial system. This article maps the implications of this transformation for legal research. It is argued that although legal AI has great potential, it can also lead to errors and even amplify structural injustices in society. In this context, the article identifies central questions for the discussion of when, how and where it is desirable to use AI for legal research.
Keywords: AI and law; technology in the Judiciary; legal research; machine learning in law.
O artigo organiza o papel que a IA tem e pode ter sobre a circulação de conteúdos na internet. À medida que a produção de conteúdo gerado por usuários atinge volumes sem precedentes, a IA emerge como uma ferramenta indispensável para criar, filtrar, organizar e avaliar a vasta quantidade de informações. De sua parte, a emergência contínua dessa tecnologia traz consigo desafios significativos, incluindo o risco de perpetuar vieses e injustiças sistêmicas. O trabalho explica os diferentes eixos de impacto da IA e mergulha no seu uso para a moderação de conteúdos na internet, crucial para a segurança de usuários e proteção a direitos. Abordando riscos e formas de proteção e mitigação, expõe um panorama dos debates sobre o tema no momento em que os grandes modelos de linguagem passam a ser considerados como possíveis aliados de plataformas de internet em seu trabalho de aplicar regras para conteúdos gerados por usuários.
Palavras-chave: IA e internet; plataformas; moderação de conteúdo; curadoria nas plataformas; riscos da IA na internet.
The article outlines the role that AI currently plays in the dynamics of production, distribution and consumption of content on the internet. As user-generated content reaches unprecedented volume, AI emerges as an indispensable tool for creating, filtering, organizing, and evaluating vast amounts of information. However, the continuous emergence of this technology brings significant challenges, including the risk of perpetuating biases and systemic injustices. The paper explains the different impact axes of AI and delves into its use for content moderation on the internet, which is crucial for user safety and protection of human rights. Addressing risks and their mitigation, it presents an overview of the ongoing conversations on the subject, especially as large language models are considered potential allies for internet platforms in their efforts to enforce rules for user-generated content.
Keywords: AI and internet; platforms; content moderation; curation on platforms; AI and risks.
A forte onda de urbanização criou uma demanda mundial pela melhoria da qualidade de vida nas cidades, provocando grandes avanços nas áreas de planejamento urbano, geografia social e tecnologias da informação e comunicação. A inteligência artificial vem desempenhando um papel crucial na redefinição do planejamento urbano e na criação de cidades mais inteligentes, sustentáveis e adaptadas às necessidades de seus habitantes. Os benefícios de uma inteligência artificial ética e responsável já são observados nas cidades com o desenvolvimento de infraestruturas urbanas e tecnológicas sustentáveis, proporcionando melhor qualidade de vida para a população.
Palavras-chave: cidades inteligentes; urbanização; cidades; cidades sustentáveis; planejamento urbano.
The strong urbanization wave created a worldwide demand for improving quality of life in cities, resulting in major advances in the areas of urban planning, social geography and information and communication technologies. Artificial intelligence is playing a crucial role in redefining urban planning and creating cities that are smarter, more sustainable cities and adapted to the needs of their inhabitants. The benefits of ethical and responsible artificial intelligence are already observed in cities with the development of urban and technological sustainable infrastructure, providing a better quality of life for the population.
Keywords: smart cities; urbanization; cities; sustainable cities; urban planning.
A agricultura é um dos setores mais importantes da economia, fundamental para prover alimentos, fibras e energia para a humanidade. No Brasil é importante fonte de empregos e para uma balança comercial positiva. É também um dos setores que mais impactam o ambiente, pela mudança do uso do solo e pelas práticas de produção que podem resultar em poluição de solo, água e ar. Para fazer frente à complexidade dos seus processos de produção, a inteligência artificial tem desempenhado um papel cada vez mais importante na pesquisa agrícola, inovação e transformação social. Este texto aborda esse papel em algumas áreas importantes: gestão da água, produção agrícola e cadeias de valor, e a questão dos dados para a pesquisa.
Palavras-chave: inteligência artificial; agricultura; agricultura digital; tomada de decisão.
Agriculture is one of the most important sectors of the economy, essential for providing food, fiber and energy for humanity. In Brazil, it is an important source of jobs and a positive trade balance. It is also one of the sectors that most impacts the environment, due to changes in land use and production practices that can result in soil, water and air pollution. To face the complexity of its production processes, artificial intelligence has played an increasingly important role in agricultural research, innovation and social transformation. This text addresses this role in some important areas: water management, agricultural production and value chains, and the issue of data for research.
Keywords: artificial intelligence; agriculture; digital farming; decision making.
A inteligência artificial é uma tecnologia de propósito geral que tem causado mudanças significativas nas atividades econômicas, com implicações em todas as atividades da vida humana. Como é característico das tecnologias disruptivas, diversas inovações decorrentes delas, bem como as suas consequências sobre a humanidade, causam impactos que vão além das atividades de base tecnológica. Em particular, a compreensão dos aspectos éticos inerentes ao desenvolvimento de tecnologias baseadas em IA apresenta desafios distintos de experiências anteriores. Neste trabalho, apresentamos uma introdução objetiva aos principais conceitos de ética que podem ser alinhados ao desenvolvimento da IA, além de delinear desafios inerentes ao desenvolvimento de sistemas que apresentem comportamento ético delineado de acordo com os valores e princípios éticos consensualizados pela sociedade.
Palavras-chave: ética em IA; inteligência artificial; aprendizado de máquina; IA ética.
Artificial intelligence is a general purpose technology that has caused significant changes in economic activities, with implications in all human life aspects. As is characteristic of disruptive technologies, various innovations resulting from them, as well as their consequences on humanity, cause impacts that go beyond technology-based activities. In particular, understanding the ethical aspects inherent to the development of basic technologies in AI presents different challenges from previous experiences. In this work, we present an objective introduction to the main ethical concepts that can be aligned with the development of AI. In addition, we highlight challenges inherent to the development of systems designed and aligned with ethical behavior outlined in accordance with the ethical values and principles agreed upon by society.
Keywords: ethics in AI; artificial intelligence; machine learning; ethical AI.
Há muitos anos se discute a baixa representatividade de alguns grupos nas áreas tecnológicas, principalmente mulheres e pessoas negras. Neste artigo, examinamos o caso da inteligência artificial, em que o panorama não é diferente. Discutimos os efeitos da falta de diversidade nos grupos que desenvolvem a IA e iniciativas ao redor do mundo para tentar mitigá-los. Mostramos um caso específico – sistemas de tradução automática, uma subárea da IA – em que os estereótipos de gênero aparecem.
Palavras-chave: IA e gênero; diversidade; viés de gênero; viés de raça; tradução e viés.
For many years, the low representation of some groups in technological areas, especially women and black people, has been discussed. In this article, we examine the case of artificial intelligence, where the panorama is not different. We discuss the effects of a lack of diversity in groups developing AI and initiatives worldwide to mitigate them. We show a specific case – machine translation systems, a sub-area of AI – in which gender stereotypes appear.
Keywords: AI and gender; diversity; gender bias; race bias; translation and bias.
Este artigo discute o futuro da pesquisa em inteligência artificial, argumentando que, em um futuro próximo, técnicas simbólicas continuarão a receber certa atenção, enquanto técnicas de aprendizado de máquina baseadas em dados continuarão a apresentar crescimento explosivo. Modelos obtidos por aprendizado profundo, em especial modelos de linguagem, serão aplicados em variados setores e terão consideráveis melhoras (em eficiência, em interpretação, em desempenho). Ainda no futuro próximo, o debate social sobre inteligência artificial se tornará mais concreto, exigindo esforço de pesquisa sobre legislação, impacto social e mercado de trabalho. Procurando olhar para um futuro mais distante, entendemos que combinações entre métodos simbólicos e baseados em dados receberão maior atenção, enquanto apostas, como computação quântica, poderão levar a novos saltos de qualidade.
Palavras-chave: futuro da IA; aprendizado de máquina; aprendizado profundo; IA e sociedade.
This paper examines the future of research in artificial intelligence, arguing that, in the near future, symbol-based techniques will continue to receive some attention, while machine learning techniques based on data processing will continue to grow explosively. Models produced through deep learning, in particular language models, will be applied to many sectors and will be significantly enhanced (in efficiency, in interpretability, in performance). Still in the near future, the social debate about artificial intelligence will take a more concrete form, demanding research effort related to regulation, social impact and job markets. Looking into a more distant future, we believe that mixtures between symbol-based and data-based methods will get more attention, while some bets, such as quantum computing, may take us to new performance levels.
Keywords: future of AI; machine learning; deep learning; AI and society.
Conteúdos especiais:
A Revista USP é uma publicação trimestral da Superintendência de Comunicação Social (SCS) da USP. Criada em 1989, é um veículo cultural de caráter ensaístico, o que confere maior dinamismo aos textos. Além disso, é multidisciplinar, aberta a todas as tendências. Outro fator a torna especial: a qualidade indiscutível dos colaboradores, que lhe possibilita ser um verdadeiro padrão de excelência dentro do universo cultural brasileiro.
Você terá a satisfação de ler a cada volume textos assinados pelos mais renomados autores em seu setor. Multidisciplinar e sem preconceitos, a Revista USP não privilegia esse ou aquele enfoque, esse ou aquele grupo, é aberta a todas as tendências.