No Campus com Helder Coelho

Atualidade dos Analisadores Semânticos

Helder Coelho

Nos últimos anos, a possibilidade de falar com uma máquina (relógio, telemóvel, computador portátil, automóvel), um dos sonhos da Inteligência Artificial, tornou-se trivial, pois a tecnologia da linguagem (tradução, reconhecimento, análise, síntese) evoluiu bastante desde a aposta da Apple no Siri em 2011 (veja-se o "Technology Quarterly" do "Economist" de 5 de janeiro de 2017, e a melhoria da precisão no reconhecimento das palavras ou na tradução, cada vez mais perto dos 100%). No entanto, esta vitória da ciência (na idade da avalanche dos dados ou Big Data) não foi fácil e, o que estava em causa, o poder de análise semântica (semantic parser) cresceu (scaled up) graças à fusão dos aspetos lógicos e estatísticos. Mais, o analisador é agora capaz de aprender (Liang, 2016), e foram os avanços da Aprendizagem Mecânica e dos Modelos Estatísticos (Hidden Markov Model, a via da força bruta) os principais responsáveis pelo entusiasmo da indústria e dos mercados. A Microsoft, a Facebook, a Google foram também para a luta e parecem estar empenhadas em melhorar os seus resultados.

Duas linhas de investigação confrontaram-se nos últimos 40 anos, o lado da linguística formal, defendido por Noam Chomsky, e o lado da teoria da informação, que se apoiou em Claude Shannon. E, não se deve esquecer Zellig Harris, o qual defendeu uma aliança forte entre os princípios gramaticais e os informacionais, e o mesmo aconteceu com a via da teoria das linguagens formais.

As técnicas matemáticas ganharam espaço e estão hoje na frente pelos avanços e a lidar com as avalanches de dados. Na presente década, graças aos esforços de um grupo pequeno de empresas, a via da teoria da informação ganhou adeptos, sobretudo devido aos sucessos no reconhecimento da voz (discurso), na busca de informação, e na tradução das línguas. Ferramentas online como o BabelFish (apoiada em regras) e o Google Translate, passaram a ser usadas e prezadas. Empresas mais pequenas, como a Nuance (e o programa Dragon Dictate), mostraram que as tecnologias das redes neuronais são úteis (a DeepMind da Google inaugurou, em 2014, um novo modo de sintetizar os discursos orais, recorrendo a redes neuronais profundas).

O mercado do processamento da língua natural (PLN), segmentado em codificação automatizada, análise de textos, reconhecimento de carateres óticos, resposta interativa em voz, reconhecimento de padrões e imagens, e analítica da voz, tenderá a aumentar muito nos próximos dez anos.

A compreensão de uma língua natural (Português) passou a poder ser decomposta em duas etapas, a tradução das frases lógicas (representação do seu significado) e a produção de ações. E, os analisadores semânticos são capazes de aprender as formas lógicas que estão associadas aos pares frases/ações. A compreensão é organizada com vários módulos, como o executor, a gramática, o modelo, o analisador e o aprendiz. E, o sistema por detrás da compreensão é ensinado e, após o treino, aumenta a sua precisão de trabalho. Mas, devemos ter um certo cuidado pois as línguas estão cheias de ambiguidades e exceções.

Compreensão profunda + raciocínio lógico
(sintaxe, semântica e pragmática)

A composição do significado de uma frase (expressão) é o resultado do arranjo/combinação das subexpressões (partes significantes da frase).

No início (anos 60), e nas duas décadas seguintes, era muito difícil ir além de domínios limitados (fechados) e de enfrentar as complexidades de uma língua em geral, apenas com regras feitas à mão. A evolução da aprendizagem mecânica, foi influenciada pelas técnicas estatísticas, já adotadas pelo reconhecimento de padrões (discurso com voz), e também graças ao modo repetitivo de explorar exemplos de comportamento (entrada/saída) e de os obrigar ao encaixe num modelo (estatístico). A revolução passou ainda pelo enfraquecimento da supervisão (na passagem das formas lógicas anotadas às respostas) e pela ampliação (scaling up) dos analisadores semânticos a domínios mais abertos e complicados. Se os primeiros sistemas exigiam as formas anotadas, os novos começaram a ser treinados com as respostas (via aprendizagem). E, finalmente, a aplicação dos analisadores a diferentes domínios e além do que é mais comum, a pergunta/resposta, tais como a navegação de robôs, a identificação de objetos em cenas, ou a conversão da língua natural em expressões regulares.

O escalamento (scaling up) é, hoje em dia, um dos problemas interessantes da Informática. Consiste em passar de um protótipo (em geral com uma escala pequena) para um sistema mais realista, e na maioria dos casos não exige apenas grandes computadores (alta velocidade e poder de processamento, enormes memórias).

Por exemplo, em simulação social baseada em agentes inteligentes, requer paciência para afinar os principais parâmetros, tornar os agentes cognitivos parecidos com os seres humanos, e multitudes de agentes diferentes em cenários com paisagens bem sofisticadas (o filme Avatar de James Cameron é um bom exemplo de um empreendimento que levou dez anos a realizar, recorrendo a novas tecnologias e ferramentas). No caso de conflitos sociais (como as manifestações de protesto em rua) passar de 1.000 agentes para 2.000 é trivial, mas o salto para 10.000 impõe muito trabalho, tempo e paciência para as afinações.

No futuro, os desafios são ainda grandes, como por exemplo a representação semântica da linguagem ou que supervisão se deverá adotar para aprender a semântica. Recentemente, houve bastante interesse em recorrer às redes neuronais, e suas extensões, para atacar as tarefas mais populares do processamento da língua natural, a tradução mecânica e a pergunta/resposta (veja-se o sucesso do sistema Watson da IBM e da interface Siri da Apple, desde 2011). A paridade entre a tecnologia e o desempenho humano está ainda longe, medida em 2/3 anos, embora os produtos comecem a surgir, como os automóveis com controles ativados por voz. Para alguns, criar discurso ou compreendê-lo são duas operações opostas.

No Departamento de Informática (DI) da Faculdade de Ciências da Universidade de Lisboa (Ciências ULisboa), o grupo do professor António Branco, por detrás da unidade de investigação e desenvolvimento NLX (criada no início de 2000), disponibilizou um serviço o LX-Service para se observarem algumas das ferramentas desenvolvidas em cerca de 20 anos de estudo (LX-Suite, LX-Conjugator, LXGram, POS Tagger, LX-Tokenizer, Lematizador verbal). Recentemente foi aprovado o projeto CNPTDeepMT (Tradução Automática Profunda entre Chinês e Português, no domínio do eCommerce), com a duração de três anos, o apoio da FCT e do Ministério da Ciência e Tecnologia da China e a ser realizado na unidade NLX no DI Ciências ULisboa.

Referência
Liang, P. Learning Executable Semantic Parsers for Natural Language Understanding, Communications of the ACM, Setembro, Vol. 59, Nº 9, 2016.

Helder Coelho, professor do Departamento de Informática de Ciências
info.ciencias@ciencias.ulisboa.pt
Dia Nacional dos Cientistas - 16 de maio

O Dia Nacional dos Cientistas foi instituído em 2016 por Resolução da Assembleia da República com o objetivo de reconhecer e celebrar a contribuição vital dos cientistas para o progresso da sociedade.

CIÊNCIAS e OKEANOS em parceria para monitorizar biodiversidade e alterações dos ecossistemas marinhos

O projeto foca-se em seis espécies que nidificam no Atlântico Norte, cuja ecologia e até a taxonomia são muito pouco conhecidas, por serem muito difíceis de estudar: estas aves são exclusivamente noturnas em terra, não pesam mais que 50 gramas e nidificam em pequenas cavidades em rochas ou solo.

Reitoria da ULisboa

O CWUR 2024 avaliou de entre 20.966 instituições de ensino superior e atribuiu à ULisboa o 211.º lugar (top 1.1%) e a 80.ª posição no panorama europeu.

Fotografia de participantes na Training School

Realizou-se em Portugal, mais precisamente em CIÊNCIAS, no CE3C, de a 6 a 9 de maio a training school

Participantes no Dia Aberto

O campus ganhou vida, cor e energia proveniente do entusiasmo dos cerca de 2000 alunos de 170 escolas de norte a sul do País.

CIÊNCIAS esteve presente nesta edição, com a participação dos docentes do Departamento de Física: Alexandre Cabral, no painel de abertura “À conversa sobre carreiras espaciais” e

Semana Internacional da Compostagem

Uma das transformações necessárias às entidades que querem progredir pelo caminho da sustentabilidade é fecharem os seus ciclos de materiais, nomeadamente o orgânico.

A VicenTuna - Tuna da Faculdade de Ciências da Universidade de Lisboa - completou 30 anos em janeiro de 2024. Para comemorar, realizou no dia 30 de abril de 2024, a Festa da Primavera, um espetáculo de música e divertimento dedicado à comunidade de CIÊNCIAS e ao público em geral.

Celebrações dos 50 anos do 25 de abril de 1974 da Academia das Ciências de Lisboa

A 9 de maio realiza-se a segunda de duas jornadas de debate académico e científico organizadas pela Academia das Ciências de Lisboa, que tem por objetivo ‘analisar e discutir a evolução do panorama científico português de forma prospetiv

Lançamento do projeto Barrocal-Cave marca um novo capítulo na Conservação da Biodiversidade em Portugal

O prestigiado Palácio Gama Lobo foi o cenário escolhido para o lançamento do projeto Barrocal-Cave, financiado pelo Prémio Fundação Belmiro de Azevedo 2023.

No passado dia 10 de abril, tivemos a honra de receber um grupo de estudantes e dois professores da Universidade de Leiden, na Holanda. Com um total de 40 estudantes, todos da área das bio farmacêuticas, a visita prometia ser entusiástica.

Miguel Pinto

No dia 29 de abril, Miguel Pinto visitou a Escola Básica Professora Aida Vieira, no Bairro Padre Cruz em Lisboa, para realizar oficinas de divulgação científica e atividades didáticas.

Fotografia de alguns dos oradores

O que é a sustentabilidade? Como podemos agir a nível local, procurando um impacto global? Estas e muitas outras questões marcaram a segunda edição da Semana da Sustentabilidade CIÊNCIAS, entre 15 e 19 de abril de 2024.

Grande Auditório durante a celebração do 113.º aniversário de CIÊNCIAS

Mais de 500 pessoas assistiram no Grande Auditório à celebração do 113.º aniversário de CIÊNCIAS, na passada terça-feira, 23 de abril, numa cerimónia marcada por distinções, homenagens e um balanço dos últimos meses, com os olhos postos no futuro. 

Buracos negros Gaia

Um grupo de cientistas descobriu um grande buraco negro, com uma massa quase 33 vezes superior à massa do Sol, escondido na constelação de Aquila, a menos de 2000 anos-luz da Terra, ao analisar a grande quantidade de dados da missão Gaia da ESA.

Alunos com mãoes no ar num sala de aula

É possível brincar com a Matemática e prova disso foram as várias atividades que se realizaram na Faculdade nos dias 13 e 14 de março de 2024. Março foi um mês dedicado a esta ciência, motor da sociedade. Leia a opinião de quem participou nestas atividades e ainda nas Jornadas de Matemática.

robot e criança

Ecossistema de grandes modelos de linguagem de IA Generativa para a língua portuguesa foi expandido com novas versões dos modelos Albertina e Gervásio.

Participantes da 1.ª edição do JAB

A 1ª edição do JAB, um evento inovador destinado a jovens empreendedores, organizado pela JUST - Júnior Iniciativa de Ciências ocorreu nos dias 22 e 23 de março passado e teve como foco a Educação de Qualidade, quarto Objetivo de Desenvolvimento Sustentável.

Pessoas

Uma comitiva da Shanghai Ocean University (SHOU), cuja origem remonta à Escola de Pesca da Província de Jiangsu, fundada em 1912, visitou Ciências ULisboa no passado dia 25 de março. Wang Hongzhou, presidente do Conselho da universidade chinesa, elogiou o avanço da investigação realizada na Ciências ULisboa, destacando as boas práticas de gestão, interdisciplinaridade e foco na missão. Durante a ocasião, Luís Carriço, diretor da Ciências ULisboa, reconheceu a importância das relações bilaterais com a China.

Alunos dinarmarqueses junto à tabela periódica

Um grupo de 25 estudantes do ensino secundário do Egedal Gymnasium & HF, da Dinamarca, visitou a Ciências ULisboa no passado dia 21 de março.

Sala com pessoas

A “Sessão de demonstração do serviço CONNECT – Caso de uso #1, Estuário do Tejo” ocorreu no passado dia 13 de março.

Várias pessoas no stand da Fcauldade Futurália

Como já vem sendo tradição, a Ciências ULisboa esteve presente na 15.ª edição da Futurália, a maior feira de educação, formação e empregabilidade do país, que se realizou entre 20 e 23 de março, na FIL - Feira Internacional de Lisboa e que juntou muitos visitantes, especialmente candidatos ao ensino superior. A Direção da Ciências ULisboa agradece aos mais de 200 estudantes voluntários e aos cerca de 70 professores, investigadores, entre outros profissionais que se vestiram de azul para esclarecerem as dúvidas dos candidatos ao ensino superior, lançando ainda o convite para visitarem a Faculdade no próximo Dia Aberto, que se realiza no próximo dia 8 de maio e cujas inscrições podem ser feitas aqui. Até lá!

Imagem do Miguel Pires durante a competição ocorrida em videoconferência

Miguel Pires, estudante da licenciatura de Engenharia Geoespacial da Ciências ULisboa, venceu a edição portuguesa do Esri Young Scholars Award e que lhe dá a oportunidade de apresentar o seu projeto Dashboard CicLisboa no maior evento de Sistemas de Informação Geográfica a nível mundial - o Esri User Conference e a Education Summit -, ambos a decorrer no próximo mês de julho, em San Diego, na Califórnia (EUA).

Páginas