Biografia
Da maggio del 2021 lavoro nel reparto dei Servizi Nazionali INFN che si occupa di implementare e mantenere i servizi informatici dell'ente come ad esempio il documentale Alfresco, il VCS Gitlab e la suite Atlassian. Il gruppo gestisce e mantiene anche l'infrastruttura di HA geografica su cui si appoggiano i servizi. Da un anno faccio anche parte del progetto AI4INFN come responsabile locale per il CNAF. Il nostro gruppo ha lo scopo di valutare e selezionare prodotti AI commerciali da proporre per le esigenze dell'Ente e di implementare soluzioni on-prem per garantire l'integrita' e sicurezza dei dati, ma anche per limitare i costi.
Abstract
Un'infrastruttura AI on-prem per il supporto ad attività di coding e operation
L'INFN sta promuovendo lo scouting di strumenti AI commerciali da fornire ai suoi dipendenti per il supporto alle sue attività, sia scientifiche che amministrative. La diffusione di modelli LLM open-weight ha portato ad investigare parallelamente anche soluzioni on-prem. Queste garantiscono un doppio vantaggio: la sicurezza e integrità dei dati da un lato e un risparmio sulle licenze dei prodotti commerciali dall'altro. Nella presentazione verrà mostrata una prima implementazione di un'infrastruttura completamente on-prem distribuita e alcuni casi d'uso che ne hanno beneficiato.
Presentazioni
Video
Bio
Since May 2021, I have been working in the INFN National Services department, which is responsible for implementing and maintaining the organisation’s IT services, including the Alfresco document management system, GitLab VCS and the Atlassian suite. The team also manages and maintains the geographically distributed high-availability infrastructure on which these services rely. For the past year, I have also been involved in the AI4INFN project as the local lead for CNAF. Our group aims to evaluate and select commercial AI products to meet the organisation’s needs, as well as to implement on-premises solutions to ensure data integrity and security while keeping costs down.
Abstract
An on-premises AI infrastructure to support coding and operations
INFN is exploring commercial AI tools to provide its staff with support for both scientific and administrative activities. The emergence of open-weight LLMs has also prompted parallel investigations into on-premises solutions. These offer two key advantages: improved data security and integrity, and reduced licensing costs compared with commercial products. The presentation will showcase an initial implementation of a fully on-premises, distributed infrastructure, along with several use cases that have benefited from it.
