Quin model lliure (<12B) escriu millor en català?

Introducció

Cada setmana apareixen nous i millors models de llenguatge extens (LLM). Sovint estan entrenats en diferents llengües, però no sempre són capaços d’escriure correctament en català.

En aquest estudi es desitja auto-avaluar diferents models per esbrinar quin és el que escriu millor en català. Per fer-ho, s’han escollit diferents models lliures populars, com ara Llama3.1Gemma2, o Mixtral. A la vegada també s’han avaluat diferents variants de quantització per esbrinar en quin grau aquesta característica impacta la qualitat del text generat.

Addicionalment, el procés descrit a continuació s’ha adaptat i traduït al castella i a l’anglès per esbrinar si hi havia diferències significatives entre els tres idiomes.

L’interès d’aquesta prova rau en avaluar models que es puguin executar localment (en aquest cas mitjançant el programari lliure ollama). En el cas que ens ocupa, s’ha executat tot en una màquina que disposa d’una única tarja RTX 4090 amb 24GB de memòria VRAM.

Continua llegint

macOS Ventura i SSH

Objectiu:

Sovint mantenim servidors força anys, més enllà del recomanable segons els dictats de seguretat i totes aquestes coses.

A partir de la versió Ventura de macOS algun format de claus ja no es consideren segurs i l’autenticació amb claus no es durà a terme.

Procediment:

Per solucionar aquesta situació s’ha de permetre que aquestes claus es continuïn utilitzant mentre correm a actualitzar els servidors. Per a això modificarem l’arxiu a macOS Ventura (no al servidor):

$ sudo pico /etc/ssh/ssh_config

Al final d’aquest document hi ha la informació que s’envia a tots els servidors. Personalment, desactivo la línia que envia la configuració local del locale al servidor. Però el que importa són les dues línies que s’han afegit al final.

...
Host *
#    SendEnv LANG LC_*
    HostkeyAlgorithms +ssh-rsa
    PubkeyAcceptedAlgorithms +ssh-rsa
...

Amb això l’autenticació es podrà tornar a fer amb claus rsa.

IMPORTANT: En cada actualització de macOS aquesta configuració es restaura. Gràcies, Apple. S’ha de fer de nou cada vegada.

Java 10.6 a macOS Catalina

Es veu que ja no es pot instal·lar la versió 10.6 de Java sobre macOS Catalina. Els d’Apple fan una feina important intentant que la gent s’actualitzi a versions més recents i actualitzades de programari. Catalina, per exemple, ja no suporta versions de 32 bits. És una política, si més no, interessant.

La qüestió és que, es miri com es miri, hi ha aplicacions antigues no actualitzades des de fa anys que encara depenen de versions antigues de Java.

La versió 10.6 de Java per a macOS es pot obtenir d’aquest enllaç.

Si provem d’instal·lar-lo sobre Catalina se’ns mostrarà un error de compatibilitat. No passa res, cuatre comandes i ho tindrem solucionat:

$ hdiutil mount ~/Downloads/JavaForMacOSX10.6.dmg 
$ pkgutil --expand /Volumes/Java\ for\ macOS\ 2017-001/JavaForOSX.pkg ~/tmp
$ hdiutil unmount /Volumes/Java\ for\ macOS\ 2017-001
$ sed -i '' 's/return false/return true/g' ~/tmp/Distribution
$ pkgutil --flatten ~/tmp ~/Desktop/Java.pkg
$ rm -rf ~/tmp

En aquest punt disposarem d’un nou arxiu Java.pkg a l’Escriptori que podem instal·lar sense problemes a macOS Catalina.

Chrome i Flash

Objectiu:

Permetre que Chrome habiliti permanentment Flash en pàgines en què es confia.

Procediment:

  • Obrir la següent pàgina a Chrome: chrome://flags
  • Cercar ‘Flash’
  • Desactivar l’opció ‘Enable Ephemeral Flash Permissions’

Quan ara s’activi Flash per a una pàgina, la configuració no es reiniciarà cada cop que Chrome s’iniciï.

TSR sobre la int 09h

Aquest petit codi en assembler 16 bits (sí, prehistòria informàtica), és una possible solució a una de les pràctiques que es proposen a l’assignatura de Sistemes Operatius de la Universitat d’Andorra. Vaig tenir la curiositat de reprendre la programació en ASM només per veure com de rovellat estava. La veritat és que n’estava molt!

L’enunciat de la pràctica és clar: s’ha de reescriure la rutina que controla el teclat de manera que quan es premi la tecla F3 s’enviï la comanda DIR<CR> a la consola. Això s’ha d’implementar mitjançant un programa TSR (Terminate and Stay Resident).

La solució que proposo no és del tot òptima per tota una sèrie de detalls que no venen al cas, però és prou vàlida per entendre els conceptes darrere els TSR i les interrupcions de BIOS i DOS.

He refrescat un munt de conceptes interessants que no havia tocat des de feia més de 20 anys. Assembler pot dur a la bogeria, però és un llenguatge que toca directament la màquina i tots els informàtics l’haurien de conèixer, crec, com a mínim una mica.

Codi font i executable: KBSwitch

Aquest codi no té llicència de cap tipus. En podeu fer el que vulgueu.

NOTA: No cal la instal·lació de màquines virtuals DOS com FreeDOS o DOSBox. Funciona sota Windows 7. Per compilar el codi font fa falta MASM32 i LINK16. Al codi font hi ha les instruccions per realitzar aquesta compilació.

Ara torno a la meva vida normal...