Quin model lliure (<12B) escriu millor en català?

Introducció

Cada setmana apareixen nous i millors models de llenguatge extens (LLM). Sovint estan entrenats en diferents llengües, però no sempre són capaços d’escriure correctament en català.

En aquest estudi es desitja auto-avaluar diferents models per esbrinar quin és el que escriu millor en català. Per fer-ho, s’han escollit diferents models lliures populars, com ara Llama3.1Gemma2, o Mixtral. A la vegada també s’han avaluat diferents variants de quantització per esbrinar en quin grau aquesta característica impacta la qualitat del text generat.

Addicionalment, el procés descrit a continuació s’ha adaptat i traduït al castella i a l’anglès per esbrinar si hi havia diferències significatives entre els tres idiomes.

L’interès d’aquesta prova rau en avaluar models que es puguin executar localment (en aquest cas mitjançant el programari lliure ollama). En el cas que ens ocupa, s’ha executat tot en una màquina que disposa d’una única tarja RTX 4090 amb 24GB de memòria VRAM.

Continua llegint

macOS Ventura i SSH

Objectiu:

Sovint mantenim servidors força anys, més enllà del recomanable segons els dictats de seguretat i totes aquestes coses.

A partir de la versió Ventura de macOS algun format de claus ja no es consideren segurs i l’autenticació amb claus no es durà a terme.

Procediment:

Per solucionar aquesta situació s’ha de permetre que aquestes claus es continuïn utilitzant mentre correm a actualitzar els servidors. Per a això modificarem l’arxiu a macOS Ventura (no al servidor):

$ sudo pico /etc/ssh/ssh_config

Al final d’aquest document hi ha la informació que s’envia a tots els servidors. Personalment, desactivo la línia que envia la configuració local del locale al servidor. Però el que importa són les dues línies que s’han afegit al final.

...
Host *
#    SendEnv LANG LC_*
    HostkeyAlgorithms +ssh-rsa
    PubkeyAcceptedAlgorithms +ssh-rsa
...

Amb això l’autenticació es podrà tornar a fer amb claus rsa.

IMPORTANT: En cada actualització de macOS aquesta configuració es restaura. Gràcies, Apple. S’ha de fer de nou cada vegada.

Shibboleth IDP3 + SP + jetty9 + nginx sobre Debian

Objectiu:

Fa uns anys vaig fer una sèrie d’entrades sobre com instal·lar Shibboleth 2.x. Això ha quedat una mica desfasat i, a la vegada, els protocols han evolucionat. La idea d’aquesta entrada és actualitzar el procediment d’instal·lació de la versió 3.x de l’IDP de Shibboleth i disposar d’un SP que autentiqui via IDP + LDAP i obtingui atributs de l’IDP.

Procediment:

El procediment no és senzill i hi ha moltes coses que poden anar, i segur que aniran, malament. A la vegada, ara que no ens llegeixen els de Shibboleth… no he vist mai documentació més feixuga i pesada de seguir. La veritat és que no sé quin és el seu usuari tipus, però si no es disposa de tres doctorats i dos màsters es fa molt difícil seguir el que ells consideren un howto bàsic. Dit això, preparem-nos per embrutar-nos i som-hi…

Continua llegint

Java 10.6 a macOS Catalina

Es veu que ja no es pot instal·lar la versió 10.6 de Java sobre macOS Catalina. Els d’Apple fan una feina important intentant que la gent s’actualitzi a versions més recents i actualitzades de programari. Catalina, per exemple, ja no suporta versions de 32 bits. És una política, si més no, interessant.

La qüestió és que, es miri com es miri, hi ha aplicacions antigues no actualitzades des de fa anys que encara depenen de versions antigues de Java.

La versió 10.6 de Java per a macOS es pot obtenir d’aquest enllaç.

Si provem d’instal·lar-lo sobre Catalina se’ns mostrarà un error de compatibilitat. No passa res, cuatre comandes i ho tindrem solucionat:

$ hdiutil mount ~/Downloads/JavaForMacOSX10.6.dmg 
$ pkgutil --expand /Volumes/Java\ for\ macOS\ 2017-001/JavaForOSX.pkg ~/tmp
$ hdiutil unmount /Volumes/Java\ for\ macOS\ 2017-001
$ sed -i '' 's/return false/return true/g' ~/tmp/Distribution
$ pkgutil --flatten ~/tmp ~/Desktop/Java.pkg
$ rm -rf ~/tmp

En aquest punt disposarem d’un nou arxiu Java.pkg a l’Escriptori que podem instal·lar sense problemes a macOS Catalina.

Chrome i Flash

Objectiu:

Permetre que Chrome habiliti permanentment Flash en pàgines en què es confia.

Procediment:

  • Obrir la següent pàgina a Chrome: chrome://flags
  • Cercar ‘Flash’
  • Desactivar l’opció ‘Enable Ephemeral Flash Permissions’

Quan ara s’activi Flash per a una pàgina, la configuració no es reiniciarà cada cop que Chrome s’iniciï.