“Se for empregada de maneiras que não beneficiem a humanidade, pode ser desastrosa.”
Notícia
Por Mike Wall
Traduzido por Marco Centurion
A NASA manterá a segurança em primeiro lugar ao aproveitar o poder crescente da inteligência artificial, enfatizaram os oficiais da agência. A tecnologia de inteligência artificial (IA) está avançando rapidamente, como mostra o surgimento de ferramentas como o Chat GTP. Esse campo em expansão pode ajudar a NASA a fazer descobertas transformadoras, dizem os oficiais da agência, mas também há possíveis armadilhas.
“Há muitos riscos com a IA, porque se for empregada de maneiras que não beneficiem a humanidade, pode ser desastrosa. A inteligência artificial pode tornar nosso trabalho mais eficiente. Mas isso só acontecerá se abordarmos essas novas ferramentas da maneira certa, com os mesmos pilares que nos definiram desde o início: segurança, transparência e confiabilidade”
disse o Administrador da NASA, Bill Nelson, hoje (22 de maio) durante uma assembleia sobre IA realizada pela agência com seus funcionários, em evento transmitido ao vivo.
A NASA não é novata em IA. A agência tem usado a tecnologia de várias maneiras há décadas, enfatizou Nelson. Mas as capacidades da IA estão melhorando rapidamente atualmente, então a NASA está intensificando seus esforços para entender a tecnologia, bem como desenvolvê-la e implantá-la corretamente.
Na semana passada, por exemplo, a NASA anunciou a nomeação de seu primeiro chefe de IA, David Salvagnini, que estava atuando como chefe de dados da agência. Ele e seus colegas pretendem tornar toda a força de trabalho da NASA mais alfabetizada em IA em breve.
“Parte do que faremos, e todos verão o anúncio em breve, é o ‘Verão da IA’, que é uma iniciativa de treinamento onde todos na NASA terão a oportunidade de aprender mais sobre IA. É literalmente uma campanha. Será uma espécie de onda, por assim dizer, de oportunidades de treinamento”
disse Salvagnini durante a assembleia.
Salvagnini também discutiu a segurança da IA. O uso responsável da tecnologia começa com uma mentalidade que mantém a humanidade central e responsável, disse ele. De fato, Salvagnini disse que prefere o termo “inteligência assistiva” em vez de “inteligência artificial”, pois mantém as pessoas no comando.
A IA “é um recurso ao qual agora tenho acesso que pode me ajudar no meu processo de decisão”, disse Salvagnini. “A IA não é responsável pelo resultado. A pessoa é. O humano é”.
Ele apontou para a modelagem de possíveis trajetórias de furacões pelos meteorologistas como uma analogia para o uso responsável da IA. Os modeladores apresentam várias trajetórias potenciais porque estão cientes das limitações dos conjuntos de dados que estão analisando. Em outras palavras, eles estão usando seu julgamento.
“Então, como podemos ser seguros em relação a isso? Entendemos nossa responsabilidade como a pessoa final responsável pelo que diz respeito aos nossos produtos de trabalho. E então, se usarmos IA como parte da geração de um produto de trabalho, tudo bem, mas é preciso entender suas capacidades e limitações”
disse Salvagnini.
A segurança da IA não foi o único tópico da assembleia de hoje; os oficiais da agência também passaram um bom tempo exaltando o potencial da tecnologia. “A IA vai nos ajudar em muitas áreas”, disse a Vice-Administradora da NASA, Pam Melroy. Ela citou o poder da tecnologia de vasculhar grandes quantidades de informações de maneira rápida e eficiente, uma capacidade que poderia levar a grandes descobertas em heliofísica, ciência da Terra e astronomia. “Ainda não sabemos quais novos insights vamos obter usando essas novas técnicas para analisar dados antigos de novas maneiras”, disse Melroy.
Alguns desses insights podem ser um benefício indireto da tecnologia, disseram ela e outros palestrantes da assembleia: a IA poderia assumir cada vez mais tarefas mundanas e trabalhosas de análise de dados, liberando os funcionários da NASA para resolver problemas mais difíceis e complexos. Melroy encerrou suas observações preparadas hoje com um endosso qualificado da IA, adotando um tom semelhante ao estabelecido por Nelson e Salvagnini.
“Então, ao concluir, quero enfatizar que é uma ferramenta poderosa, engenhosa e muito empolgante. Mas se não a gerenciarmos de maneira responsável, nos exporemos a um mundo de riscos que coloca em risco nossa credibilidade e nossa missão”
conclui Melroy.
Artigo encontrado em space.com (originalmente publicado em 22/05/2024)
Link para acesso ao original: https://www.space.com/nasa-artificial-intelligence-safety
Comments