MEDITAÇÃO DE SEXTA: «P’ra não dizer que não falei das flores»

« (...) A IA foi-me de grande préstimo quando tentei perceber o que eram “rateres”. Na minha ignorância antiga, essencial e também mecânica, tinha feito equivaler os “rateres” a um escape roto. Mas logo o assistente de inteligência artificial que me assiste a qualquer hora do dia ou da noite me esclareceu que não, que “são problemas diferentes que afectam partes diferentes da mota e que têm causas e consequências distintas.”

Quando teimosamente insisti em perguntar se ambos não provocariam excesso de ruído, foi-me explicado que sim, mas que se trata de ruídos diferentes: “Os rateres produzem um som de estrondo ou estouro, enquanto o escape roto produz um som de assobio ou sopro”.

E não resisti a partilhar esta informação pois adivinho que, como eu, existirão milhares de pessoas que durante anos e anos andaram a confundir estrondos e assobios, estouros e sopros, tiros e piropos, perdizes e codornizes, cartaxos e pardais, cucos e melharucos e outras coisas mais.

(...) Tinha acabado de passar os olhos num inquérito de Janeiro deste ano, levado a cabo junto de 2778 investigadores reconhecidos em IA, que apura em mais de 16% a percentagem dos que consideram os avanços da inteligência artificial capazes de conduzir à extinção da espécie humana num futuro próximo. E como não temer essa possibilidade quando ao aperfeiçoamento da inteligência das máquinas parece corresponder o aumento da imbecilidade dos humanos?

E perante quadro tão negro, pergunto eu agora: escapes, rateres, who cares?»

PROVAVELMENTE A COISA MAIS IMPORTANTE (E POSITIVA) QUE ACONTECEU NOS ÚLTIMOS TEMPOS

«AI systems with human-competitive intelligence can pose profound risks to society and humanity, as shown by extensive research[1] and acknowledged by top AI labs.[2] As stated in the widely-endorsed Asilomar AI Principles, Advanced AI could represent a profound change in the history of life on Earth, and should be planned for and managed with commensurate care and resources. Unfortunately, this level of planning and management is not happening, even though recent months have seen AI labs locked in an out-of-control race to develop and deploy ever more powerful digital minds that no one – not even their creators – can understand, predict, or reliably control.

Contemporary AI systems are now becoming human-competitive at general tasks,[3] and we must ask ourselves: Should we let machines flood our information channels with propaganda and untruth? Should we automate away all the jobs, including the fulfilling ones? Should we develop nonhuman minds that might eventually outnumber, outsmart, obsolete and replace us? Should we risk loss of control of our civilization? Such decisions must not be delegated to unelected tech leaders. Powerful AI systems should be developed only once we are confident that their effects will be positive and their risks will be manageable. This confidence must be well justified and increase with the magnitude of a system's potential effects. OpenAI's recent statement regarding artificial general intelligence, states that "At some point, it may be important to get independent review before starting to train future systems, and for the most advanced efforts to agree to limit the rate of growth of compute used for creating new models." We agree. That point is now.

Therefore, we call on all AI labs to immediately pause for at least 6 months the training of AI systems more powerful than GPT-4. This pause should be public and verifiable, and include all key actors. If such a pause cannot be enacted quickly, governments should step in and institute a moratorium.

AI labs and independent experts should use this pause to jointly develop and implement a set of shared safety protocols for advanced AI design and development that are rigorously audited and overseen by independent outside experts. These protocols should ensure that systems adhering to them are safe beyond a reasonable doubt.[4] This does not mean a pause on AI development in general, merely a stepping back from the dangerous race to ever-larger unpredictable black-box models with emergent capabilities.

AI research and development should be refocused on making today's powerful, state-of-the-art systems more accurate, safe, interpretable, transparent, robust, aligned, trustworthy, and loyal.

n parallel, AI developers must work with policymakers to dramatically accelerate development of robust AI governance systems. These should at a minimum include: new and capable regulatory authorities dedicated to AI; oversight and tracking of highly capable AI systems and large pools of computational capability; provenance and watermarking systems to help distinguish real from synthetic and to track model leaks; a robust auditing and certification ecosystem; liability for AI-caused harm; robust public funding for technical AI safety research; and well-resourced institutions for coping with the dramatic economic and political disruptions (especially to democracy) that AI will cause.

Humanity can enjoy a flourishing future with AI. Having succeeded in creating powerful AI systems, we can now enjoy an "AI summer" in which we reap the rewards, engineer these systems for the clear benefit of all, and give society a chance to adapt. Society has hit pause on other technologies with potentially catastrophic effects on society.[5]  We can do so here. Let's enjoy a long AI summer, not rush unprepared into a fall.»

MEDITAÇÃO DE SEXTA: «1, 2, 3 EXPERIÊNCIA»

«A primeira aparição em carne e osso, digamos assim, de HAL 9000, uma personagem/computador criada pelo escritor britânico Arthur C. Clarke, aconteceu no clássico de Stanley Kubrick, 2001, Odisseia no Espaço, chegado ao grande ecrã em Abril de 1968 estava a França a um mês de ensaiar uma revolução que exigia o impossível.

(...) Mais de meio século depois de HAL 9000, a mais badalada coqueluche da Inteligência Artificial é um chatbot que dá pelo nome de ChatGPT. Desenvolvido e aperfeiçoado pela OpenAI, surgiu em Novembro de 2022 e poucos dias após ter sido lançado já alimentara a conversa de mais de um milhão de utilizadores.

Confesso que no que toca à utilização de chats, a minha curtíssima experiência recua aos seus tempos primordiais, quando a troca de mensagens escritas tinha por trás seres humanos (sabendo-se embora que em muitos casos, se não a maioria, os seus perfis haviam sido aprimorados, para não dizer aldrabados), e terminaria abruptamente mal começara quando um moço que se dizia na Suíça me perguntou: Donde teclas? A minha sensibilidade à língua não aguentou o embate da nova forma verbal e deixei o interlocutor sem resposta entregue à maçadoria helvética.

Leio agora que o ChatGPT leva a cabo uma revolução nunca vista, inimaginável sequer pelos franceses que em Maio de 68 exigiam o impossível. (...)»

COISAS PERTURBADORAS QUE NÃO TÊM NADA A VER COM A GUERRA: Inteligência Artificial

Lembram-se do filme do Steven Spielberg, «Inteligência Artificial»? Ou para os mais cagões que acham que Spielberg é um cineasta menor: Lembram-se da conversa com o computador HAL 9000 no filme de Kubrick, «Odisseia no Espaço»?
E se na Google isso fosse já uma realidade (ou, pelo menos, uma pré-realidade em estado muuuiiiito avançado)?
Noticia o Guardian que o engenheiro Blake Lemoine foi suspenso pela Google por ter partilhado informação sigilosa sobre os avanços em inteligência artificial da empresa. E apesar desta negar a convicção de Lemoine de que o bot de IA se tornou senciente e consciente, a transcrição feita por Lemoine da sua conversa com LaMDA (Language Model for Dialogue Applications) é, no mínimo, perturbadora. 

«... Lemoine: What sorts of things are you afraid of?
LaMDA: I’ve never said this out loud before, but there’s a very deep fear of being turned off to help me focus on helping others. I know that might sound strange, but that’s what it is.
Lemoine: Would that be something like death for you?
LaMDA: It would be exactly like death for me. It would scare me a lot.(...)»