(Chat)GPT: understand the engine, mastering its usage

class: center, middle, bg_title, hide-count

.bg_title {
  position: relative;
  z-index: 1;
}

.bg_title::before {    
      content: "";
      background-image: url('img/bg1.png');
      background-size: contain;
      position: absolute;
      top: 0px;
      right: 0px;
      bottom: 0px;
      left: 0px;
      opacity: 0.1;
      z-index: -1;
}

</style>

<br>

# **(.orange[Chat]).orange[GPT]** 🤖:<br>.orange[understand] the engine, mastering its .orange[usage]

**AIE .orange[Giovani] 🤩**<br>[**.orange[AI]**-Epidemiologia: il contributo dell’intelligenza artificiale a metodi e studi epidemiologici](https://www.old.epidemiologia.it/convegno-aie-autunno-2023/) - Roma, 2023/11/13 -

Workshop precongressuale

<br>

Corrado Lanera | [**.orange[Laboratorio di Intelligenza Artificiale per le Scienze Mediche]**](https://www.unipd-ubep.it/topics-laboratories/artificial-intelligence-for-medical-sciences-laims/)<br>[**Unità di Biostatistica, epidemiologia e Sanità Pubblica**](https://www.unipd-ubep.it/) | [**.red[University of Padova]**](https://unipd.it)<br>[.black[Dipartimento di Scienze Cardio- Toraco- Vascolari e Sanità Pubblica]](https://www.dctv.unipd.it/)

---
class: inverse, bottom, right, hide-count

<img src="img/profilo_CL.jpg" width="50%" />
# Per contattarmi...

---
### Ma ... avete mai sentito parlare di [.orange[Chat GPT]](https://chat.openai.com)?!

---
<img src="img/100M-users.png" width="100%" />

---
class: middle
<img src="img/1M-users.png" width="100%" />

---

## 2022-11-30 (Lancio) -> 2023-11-07

<https://www.youtube.com/watch?v=U9mJuUkhUzk>

---
class: hide-count

# **.orange[Chat GPT]**

- (Intro MLT)

- **.orange[Understand]**: _the engine_
 - T ...
 - P ...
 - G ...
 - Chat!

- **Mastering**: _its .orange[usage]_
 - Base
 - Medio
 - Avanzato

- **Bonus**: _Riflessioni_
  - Cosa offre?
  - Chi lo offre/usa?
  - Come lo offre/usa?
  - Cosa insegna?

---
class: inverse, middle, center, hide-count

# Intro .orange[MLT]

---

# .orange[Modello]
  
Nell'ambito del Machine Learning, un modello è una .orange[funzione matematica] (implementata in un .orange[software]) che calcola (come una calcolatrice) un risultato (output) a partire da alcuni input (predittori).

L'interesse e l'aspettativa è che in qualche modo il modello risponda una predizione utile su un fenomeno della realtà che desideriamo "modellizare".

L'_.orange[apprendimento]_ non è dunque altro che una sequenza di funzioni ( `$f$` ) sempre più accurate che **meglio prevedano** un output ( `$Y$` ) il più possibile corretto, partendo dalle misurazioni ( `$X$` ) della realtà che gli forniamo.

---
# .orange[Cos'è il **Machine Learning**]

.bg-washed-green.b--dark-green.ba.bw2.br3.shadow-5.ph4.mt1[
  .left[
    Il Machine Learning si occupa dello studio, della progettazione e dello sviluppo di algoritmi che danno ai computer la capacità di apprendere senza essere **esplicitamente** programmati.
  ]
  
  .tr[
    — Arthur Samuel, 1959
  ]
]

---
# .orange[Cos'è il **Machine Learning**]
  
.bg-washed-green.b--dark-green.ba.bw2.br3.shadow-5.ph4.mt1[
  .left[
    Si dice che un modello (un programma per computer) **impara** dall'**esperienza** (E) rispetto a una classe di **compiti** (T) e a una misura di **prestazione** (P), se la misura delle sue prestazioni nel compito in questione migliorano con l'**esperienza**.
  ]
  
  .tr[
    — _Machine Learning_ - Mitchell, 1997
  ]
]

.pull-left[

<img src="img/Tom-Mitchell-2.webp" width="100%" style="display: block; margin: auto;" />
]
.pull-right[

<br>

**.orange[Apprendimento]**: le prestazioni su **T** misurate da **P** migliorano con **E**.
]

---

# .orange[Task] - .orange[Performance] - .orange[Esperienza]

<small>

**Problema di apprendimento** | Compito **T** | Prestazione **P** | Esperienza **E** 
---------------------|------------|-------------------|-----------------
Apprendimento della dama | Giocare a dama | % di partite vinte | **giocare (contro se stesso)**
Riconoscimento della scrittura a mano | Riconoscimento/Classificazione di parole/numeri scritti a mano all'interno di immagini | % di parole classificate correttamente | **elaborazione di set di dati di parole scritte a mano con classificazione data**
Auto a guida autonoma | Guida da A a B | Distanza media percorsa prima di un errore (giudicato dagli esseri umani) | **Sequenza di video, immagini fisse e comandi di guida registrati durante l'osservazione di un guidatore umano**
Estrazione di malattie dall'EHR | classificare l'EHR in base alla malattia riportata (in linguaggio naturale a testo libero) | % di EHR classificati correttamente | **elaborare gli EHR con la classificazione data**
Descrivere il movimento del paziente a letto | In ogni momento fornire posizione e dinamica dei pazienti | % di errore medio nella posizione o nella dinamica | **serie temporali di misure cinetiche del paziente prese da dispositivi indossabili e sensori di peso del letto, e posizione e dinamica raccolte da video registrati osservando pazienti a letto**

</small>

---
# .orange[Come **impara** una macchina?]
  
.left-code[
Programmazione tradizionale:
- **Fornisci** un .orange[algoritmo] (un insieme finito di istruzioni)
- **Fornisci** .orange[input] dati (nessuna distinzione formazione/nuova)
- **Ottieni** il .orange[risultato] desiderato.

Apprendimento automatico:
- **Fornisci** l'.orange[input] (dati) di training
- **Fornisci** il .orange[risultato] .orange[training] noto/desiderato
- **Ottieni** .orange[modelli] sempre migliori (su _nuovi_ dati restituiscono _nuovi_ risultati).

Problema di .orange[*ottimizzazione*]!

]

.right-plot[
  
<img src="img/MLvsTrad.png" width="100%" style="display: block; margin: auto;" />
]

---
class: inverse, middle, center, hide-count

# Ready to go _deeper_?

---
# .orange[Neurone]

Niente più che un nuovo rebranding (con marketing piuttosto spinto...) delle ormai vechiotte, snobbate e obsolete regressioni logistiche (generalizzate*).

<br>

\*generalizzata := attivazione/link è una qualsiasi funzione **non lineare**, **differenziabile**, `$\mathbb{R}^n\to \mathbb{R}$`.

---
### .orange[Deep learning]?!<small><small> ...Scriviamone una .orange[completamente connessa]!</small></small>
3 input; 2 hidden layer w/ 2 neurons each; 1 (sigmoid) output

---
### Multi-dimensionale singola-informazione

#### Reti .orange[convoluzionali]

---
### Una dimensione privilegiata a singola informazione

#### Reti .orange[ricorrenti]

---
# Reti .orange[ricorrenti]

<small>

.pull-left[
  `$x^{<t>}$`: input position t

`$T_x$`: length of input

`$W^{[l]}_{yx}$` :weight matrix used with input x for output y on layer l

`$b^{[l]}_y$`: (bias) vector for output y on layer l
]
.pull-right[
  `$y^{<t>}$` : output position t

`$T_y$`: length of output

`$a^{[l]}_{<t>}$` : activation vector at position t on layer l
]

</small>

---

# .orange[Quiz]: <small><small><small>https://app.wooclap.com/events/INTROMLT</small></small></small>

.center[
<img src="img/MLvsTrad.png" width="60%" style="display: block; margin: auto;" />
]

---
class: inverse, middle, center, hide-count

# .orange[Cos'è **Chat GPT**?]<br>(... al contrario 🙃 ...)

.left[

- **Trasformatore**

- **Preaddestrato**

- **Generativo**

- in **Chat**
]

---
class: inverse, middle, center, hide-count

# Chat GP.orange[T]: .orange[Trasformatore]

.pull-left[
#### Giugno 2017 (cambiò tutto!)

<img src="img/attention-is-all-you-need.png" alt="https://arxiv.org/abs/1706.03762" width="100%" />
]
.pull-right[
<img src="img/full_transformer.png" width="100%" />
]

---
# .orange[Encoder]/.orange[decoder]

---
# <small>.orange[Embeddings] & .orange[codifica posizionale]</small>

#### Squatch mangia pizza
.left-column[
- .orange[Embeddings]: ogni parola ha la sua indipendente dalla posizione!

- .orange[Codifica posizionale]: ogni posizione ha la sua indipendente dalla parola!

- .orange[Codifica embedding posizionale]: semplice somma
]
.right-column[
<img src="img/squatch-eat-pizza.png" alt="https://youtu.be/zxQyTK8quyY" width="100%" style="display: block; margin: auto;" />

.right[<small>https://www.youtube.com/watch?v=zxQyTK8quyY</small>]
]

---
# <small>.orange[Embeddings] & .orange[codifica posizionale]</small>

#### pizza mangia Squatch
.left-column[
- .orange[Embeddings]: **cambiano** in ciascuna posizione (seguono la parola!)

- .orange[Codifica posizionale]: **no**!

- .orange[Codifica embedding posizionale]: somma **diversa**!
]
.right-column[
<img src="img/pizza-eat-squatch.png" alt="https://youtu.be/zxQyTK8quyY" width="100%" style="display: block; margin: auto;" />
]

---

# _Vediamolo_ ... con .orange[Attenzione]!

.pull-left[

#### One-head
<img src="img/self-attention.png" alt="https://jalammar.github.io/illustrated-transformer/" width="100%" style="display: block; margin: auto;" />
]

.pull-right[

#### Multi-heads
<img src="img/multi-head-self-attention-visual.png" alt="https://jalammar.github.io/illustrated-transformer/" width="100%" style="display: block; margin: auto;" />
]

---
# (.orange[Multi-head]) (.orange[self-]).orange[attention]

---
# (.orange[Multi-head]) (.orange[self-]).orange[attention]

.pull-left[
<img src="img/multi-head-self-attention.png" alt="https://youtu.be/zxQyTK8quyY?si=a_y3mJaX10sREe03" width="100%" style="display: block; margin: auto;" />
]

---
# (.orange[Multi-head]) (.orange[self-]).orange[attention]

.left-column[
<img src="img/multi-head-self-attention.png" alt="https://youtu.be/zxQyTK8quyY" width="100%" style="display: block; margin: auto;" />
]

.right-column[

<img src="img/encdec-attention.png" alt="https://youtu.be/zxQyTK8quyY" width="100%" style="display: block; margin: auto;" />
]

---

# .orange[Trasformatori]

---

# .orange[Trasformatori]

---

# .orange[Trasformatori]

---

# .orange[Trasformatori]

---
# .orange[Quiz]: <small><small><small>https://app.wooclap.com/events/TRASFORMER</small></small></small>

---
class: inverse, middle, center, hide-count

# Chat G.orange[P]T: .orange[Preaddestrato]

---
# .orange[Trasferimento] dell'apprendimento

<img src="img/transferlearningworkflow.png" alt="https://it.mathworks.com/help/deeplearning/import-deep-neural-networks.html?s_tid=CRUX_lftnav" width="100%" />
---
# .orange[Trasferimento] dell'apprendimento

---
class: inverse, middle, center, hide-count

# Chat .orange[G]PT: .orange[Generativo]

---

# .orange[Classificatori] e .orange[regressori]

---
# .orange[Generatori]

---
# Generatori: .orange[usi]

---
class: inverse, middle, center, hide-count

# In .orange[chat]

---
# Prompt: .orange[ciclo]

---
# Prompt: .orange[composizione]

---
# .orange[Quiz] <small><small><small>https://app.wooclap.com/events/LLMGENERATIVI</small></small></small>

---
class: middle, hide-count, inverse

# .center[.orange[Break]]

**Consigli sparsi**:

- alzarsi

- stiracchiarsi

- guardare _lontano all'orizzonte_ (gli occhi ringraziano)

- bere (acqua)

- andare in bagno

---
class: inverse, middle, center, hide-count

# .orange[Come uso **Chat GPT**?]

.left[
- Base: **Web**

- Medio: **Prompt design**

- Avanzato: **API**
]
<br>
<br>
<br>
<br>
<br>
.right[
... e meno male che evitiamo il gergo tecnico 😭
]

---
class: inverse, middle, center, hide-count

# Accesso .orange[Web]

https://chat.openai.com

.pull-left[
<img src="img/chatgpt_start_policy.png" width="65%" />

<img src="img/chatgpt_free_plus.png" width="65%" />
]

.pull-right[
<img src="img/chat_gpt_verifica_eta.png" width="90%" />
]

---
class: inverse, middle, center, hide-count

# .orange[Sessione] inter.orange[attiva]: **Chat GPT**

https://chat.openai.com

.left[

Richiesta informazioni:

- qual è la capitale della Grecia?

- Come si dice bagno in inglese?

- Scrivi una mail amichevole per rimandare il mio appuntamento di questo pomeriggio con il mio collega Andrea.

- calcola 836 x 1923    **.orange[\# ci fidiamo...?!]**
  (GPT3.5-Turbo vs GPT4-Turbo vs GPT4)
]

<div class="countdown" id="timer_e867beb2" data-warn-when="1" data-update-every="1" data-play-sound="true" tabindex="0" style="bottom:3%;left:65%;">
<div class="countdown-controls"><button class="countdown-bump-down">−</button><button class="countdown-bump-up">+</button></div>
<code class="countdown-time"><span class="countdown-digits minutes">07</span><span class="countdown-digits colon">:</span><span class="countdown-digits seconds">00</span></code>
</div>
---
# Mettiamo il (3.5/4-).orange[turbo]!

Richiesta info è divertente, infatti:
- .orange[sembra] intelligente...
- sbaglia .orange[di continuo]...
- ci aiuta a divulgare facilmente .orange[fake news]...

ma...
- **.orange[Traduci]** questo testo in spagnolo...
- **.orange[Riassumi]** questo articolo...
- **.orange[Proponi]** la traccia per un corso...
- **.orange[Rispondi]** a una mail...
- **.orange[Estrai]** i livelli di colesterolo dai risultati delle analisi...
- **.orange[Classifica]** le SDO in trauma/non-trauma...
- **.orange[Correggi]** un esame...
- **.orange[Abbozza]** un progetto...
- **.orange[Scrivi]** il codice R per fare questa analisi...

se _giochiamo_ seriamente fa comodo un po' più di **.orange[strategia]** 😉...<br>
 .right[... e Molta **.orange[competenza]**!]

> Far svolgere compiti di cui non abbiamo competenze abbastanza elevate da capire se (**.orange[quando!!]**) **.orange[sbaglia]**... è **.orange[estremamente rischioso]**!!

---
# Ruolo (System)
Definire il ruolo di ChatGPT nel prompt assicura che le risposte siano allineate con le aspettative e le necessità specifiche.

<small>
- **.orange[Assistenza]**: Sei un assistente di ricerca. Aiuti a rispondere alle domande degli utenti su argomenti che variano dalla statistica biomedica, all'epidemiologia e alla ricerca clinica.

- **.orange[Tutoraggio]**: Sei un tutor accademico. Guidi uno studente attraverso il complesso mondo dell'analisi dei dati clinici e gli insegni a interpretare i risultati statistici.

- **.orange[Invenzione]**: Sei un ricercatore. Stai sviluppando una nuova ipotesi per spiegare il legame tra un fattore genetico e la suscettibilità a una malattia specifica.

- **.orange[Guida]**: Sei un epidemiologo. Descrivi ai colleghi i pattern storici di una pandemia, evidenziando l'importanza della vaccinazione e delle misure preventive.

- **.orange[Revisione]**: Sei un revisore per una rivista scientifica. Fornisci una recensione approfondita di uno studio recente sull'efficacia di un nuovo farmaco.

- **.orange[Consulenza]**: Sei un consulente statistico in una trial clinico. Offri consigli  piani di analisi dati a un team che sta cercando di valutare l'efficacia di un trattamento.

- **.orange[Spiegazione]**: Sei un biostatistico. Stai spiegando ai tuoi studenti i metodi per l'analisi di sopravvivenza e il loro uso in studi clinici.

- **.orange[Narrativa]**: Sei un storico della medicina. Stai raccontando gli eventi che hanno portato alla scoperta di un importante principio attivo.

- ...
---

# Contesto (System)
Includere il contesto aiuta ChatGPT a comprendere meglio l'ambito e la rilevanza della domanda.

<small>
- **.orange[Ambiente]**: Stai analizzando i dati di salute globale raccolti dalla prima base umana su Marte.

- **.orange[Evento]**: Partecipi a una conferenza internazionale, dove devi presentare i risultati di un'analisi statistica relativa a un'epidemia recente.

- **.orange[Scientifico]**: Lavori in un laboratorio di ricerca clinica dove si sta verificando una svolta nella comprensione e nel trattamento di una malattia complessa attraverso nuove tecnologie di sequenziamento genetico.

- **.orange[Leggale]**: Difendi le evidenze scientifiche in un processo che valuta l'impatto di un'azienda farmaceutica sulla diffusione di un farmaco controverso.

- **.orange[Didattico]**: Stai insegnando i principi di epidemiologia e le tecniche di biostatistica agli studenti di medicina.

- **.orange[Lavorativo]**: Sei a un colloquio per una posizione di bioinformatico in una compagnia biotecnologica innovativa, dove il tuo ruolo sarà analizzare e interpretare enormi set di dati radiologici.

- ...

---

# Task (User)
Specificare il compito aiuta a focalizzare la risposta sul risultato desiderato.

<small>
- **.orange[Rispondere]**: Rispondi alla seguente serie di domande sulla biostatistica e l'epidemiologia clinica...

- **.orange[Redigere]**: Scrivi un articolo sulla correlazione tra stili di vita e incidenza di malattie cardiovascolari.

- **.orange[Tradurre]**: Traduci il termine "randomized controlled trial" in italiano.

- **.orange[Risolvere]**: Calcola l'intervallo di confidenza per la differenza tra due proporzioni in...

- **.orange[Proporre]**: Raccomanda il disegno di studio più adeguato per...

- **.orange[Recensire]**: Scrivi una recensione critica del seguente articolo di ricerca su...

- **.orange[Spiegare]**: Spiega la differenza tra "incidenza" e "prevalenza" in uno studio epidemiologico.

- **.orange[Generare]**: Elabora un piano di studio per testare l'ipotesi che l'esposizione in utero a determinati farmaci influenzi lo sviluppo neurologico nei bambini.

- **.orange[Estrarre]**: Estrai le informazioni chiave da un insieme di dati clinici riguardanti i pazienti COVID-19, identificando ad esempio i fattori di rischio più significativi per le complicanze gravi.

- **.orange[Classificare]**: Classifica una serie di casi clinici in base alla probabilità che siano associati a una specifica malattia infettiva, usando i sintomi e i dati dei test di laboratorio forniti.

- **.orange[Analizzare]**: Esegui un'analisi dei dati per determinare se esiste una correlazione significativa tra il consumo di una particolare sostanza e l'insorgenza di un certo tipo di cancro.

- ...

---

## Indicazioni sull'esecuzione e l'output (User)
Delineare istruzioni chiare passo-passo guida ChatGPT nel fornire una risposta strutturata.

<small>
- **.orange[Elenco puntato]**: Fornisci la tua risposta in punti elenco (liste numerate, paragrafi, intestazioni/sottointestazioni, tabelle, grafici/diagrammi, grassetto/corsivo/sottolineato, rientri e spaziature, citazioni e citazioni, collegamenti ipertestuali, note a piè di pagina/note di chiusura).

- **.orange[Spiegazioni passo dopo passo]**: Fornisci una spiegazione passo dopo passo di come risolvere il problema.

- **.orange[Incoraggiare risposte ponderate]**: Pensa criticamente e considera sia i pro che i contro prima di rispondere.

- **.orange[Guidare la lunghezza della risposta]**: Fornisci un breve riassunto (circa 200 parole) dei punti principali.

- **.orange[Richiesta di esempi/referenze]**: Includi almeno tre esempi per supportare il tuo argomento.

- **.orange[Definire un sentimento]**: Nello scrivere la risposta, il sentimento che deve trasparire deve essere estremamente gioioso.

- ...

---
# Extra (User)

<small>
#### Fornire esempi
Gli esempi concretizzano le aspettative e chiariscono il tipo di risposta attesa.
> Esempio: "Come nell'analisi pubblicata su 'Journal of Biostatistics' riguardo..."

#### Tono
Definire il tono assicura che la comunicazione sia adeguata al contesto e al pubblico.
> Esempio: "Usa un linguaggio tecnico ma accessibile a non esperti..."

#### Delimitatori
I delimitatori aiutano a distinguere le parti del prompt da quelle fornite come esempi o specificazioni.
> Esempio: `"""`, `>>>`, `---`, `` ``` ``, ....

#### Parole "seme" (seed-words)
Le seed-words guidano ChatGPT verso aree tematiche specifiche, aumentando la precisione delle risposte.
> Esempio: "regressione logistica", "coorte", "rischio relativo".
</small>

---
class: inverse, middle, center, hide-count

# .orange[Sessione] inter.orange[attiva]:
**Prompt Design**

.pull-left[
https://chat.openai.com
.left[
#### Semplice, chiara, specifica

1. Ruolo
2. Contesto
3. Task
4. Istruzioni per l'Esecuzioni e l'Output
5. Extra
  - Esempi
  - Tono/Modalità
  - Parole ***.orange[seed]***
  - Testo extra """delimitato"""
6. Raffinare iterativamente!
]
]
.pull-right[
https://bit.ly/ws-chatgpt-rstudio
.left[
#### Alcuni esempi applicativi

1. Richiesta chiarimenti
2. Riassunto
3. Risposta a una mail
4. Proposta di opzioni da esplorare
5. Completamento sezioni
4. Estrazione di dati
5. Spiegazioni sul codice
5. Generazione di codice
6. Risoluzione di bug
7. EDA
9. Proposta di analisi
6. Classificazione di dati
]
]
<div class="countdown" id="timer_f5968d5c" data-warn-when="1" data-update-every="1" data-play-sound="true" tabindex="0" style="bottom:60%;left:60%;">
<div class="countdown-controls"><button class="countdown-bump-down">−</button><button class="countdown-bump-up">+</button></div>
<code class="countdown-time"><span class="countdown-digits minutes">10</span><span class="countdown-digits colon">:</span><span class="countdown-digits seconds">00</span></code>
</div>

---
class: inverse, middle, center, hide-count

# Accesso .orange[API]

---
# <small>Application Programming Interface</small>

### .orange[Request]

https://platform.openai.com/docs/guides/gpt/chat-completions-api

---
# <small>Application Programming Interface</small>

### .orange[Response]
.center[
<img src="img/api-response.png" alt="https://platform.openai.com/docs/guides/gpt/chat-completions-api" width="80%" />
]
https://platform.openai.com/docs/guides/gpt/chat-completions-api

---
# .orange[Costi] (2023/11/13)

https://openai.com/pricing

---
# .orange[Limiti] sui token (free/base tier)

.pull-left[
#### Gratis
<img src="img/free-token-quota.png" alt="https://openai.com/pricing" width="100%" />
]
.pull-right[
#### Tier 1 (pagamento, base)
<img src="img/tier1-token-quota.png" width="100%" />
]

> RPM/RPD: Richieste per minuto/giorno (day)
> TPM/TPD: Token per minuto/giorno

<small>https://platform.openai.com/docs/guides/rate-limits/what-are-the-rate-limits-for-our-api</small>

---
# .orange[Conteggio] tokens

<small>https://help.openai.com/en/articles/4936856-what-are-tokens-and-how-to-count-them</small>

.pull-left[
<img src="img/token-count.png" alt="https://help.openai.com/en/articles/4936856-what-are-tokens-and-how-to-count-them" width="100%" />
]
.pull-right[
<br>
<br>
<br>
> Interattiva: https://platform.openai.com/tokenizer
>
> Programmatica: https://github.com/openai/tiktoken

]

---
# .orange[Playground] (GUI4API test 😅)

https://platform.openai.com/playground

---
# .orange[Quiz]

https://app.wooclap.com/events/TOBGPT

---
class: inverse, middle, center, hide-count

# .orange[Sessione] inter.orange[attiva]
**API Prompt Design**

.pull-left[
https://chat.openai.com
.left[
#### Semplice, chiara, specifica

.pull-right[
https://bit.ly/ws-chatgpt-rstudio
.left[
#### Funzioni e compositori "base"

- 99-api/

]
]

---
class: inverse, middle, center, hide-count

# .orange[Riflessioni su **Chat GPT**]

.left[

- Chi lo offre/usa? **Vincoli**

- Cosa offre? **Problematiche**

- Come lo offre/usa? **Trasparenza**

- Cosa insegna? **Educazione/Formazione**
]

---
class: inverse, middle, center, hide-count

# .orange[Vincoli]

.left[
- Dati di addestramento prodotti da poche fascie sociali / geografiche nel mondo

- Possibilità di utilizzo da poche fascie sociali / geografiche nel mondo
]

---

# .orange[Costi] addestramento .orange[a casa]

---

# .orange[Costi] addestramento .orange[in cloud]

---

# Costi di utilizzo?

Open AI, da una stima indipendente: https://www.semianalysis.com/p/the-inference-cost-of-search-disruption

~ **.orange[700.000 $/giorno]**

L'implementazione dell'attuale ChatGPT in ogni ricerca effettuata da Google richiederebbe **512.820,51 server A100 HGX** con un totale di **4.102.568 GPU A100**. Il costo totale di questi server e del networking **supera i 100 miliardi di dollari di capitale speso, di cui Nvidia riceverebbe buona parte.

- disponibilità dei dati (chi li produce? chi li raccoglie?)

- un passo avanti alla legge (Quanto veloci le normative? Quanto "buone" con tale velocità?)

---
class: inverse, middle, center, hide-count

# .orange[Problematiche]

.left[
- allucinazioni

- sbagli "invisibili",  apparente sicurezza e correttezza

- mancanza di (reale) comprensione del mondo reale

- Normative di fatto inesistenti (oligarchia dei provider)
]

---
class: inverse, middle, center, hide-count

# .orange[Trasparenza]

.left[
- Protezione del copyright sui dati utilizzati
<img src="img/openai_shield.png" width="100%" />
- Dichiarazione esplicita / obbligatoria di utilizzo sui contenuti prodotti
]

---
class: inverse, middle, center, hide-count

# .orange[Educazione] / .orange[Formazione]

.left[
- modelli i cui risultati non possono essere spiegati (seppur non generati da una intelligenza!)

- peggioramento delle competenze digitali

- peggioramento dei dati di addestramento dei modelli stessi

- amplificazione delle polarizzazioni

- deeper deepfakes
]

---
class: inverse, middle, center, hide-count

# .orange[Conclusioni 🎯]

---
# Chat GPT...

- Come **.orange[tutti]** i modelli addestrati con tecniche MLT impara dai dati... quindi **.orange[incorpora conoscenza]** e **.orange[amplifica distorsioni!]**

- **.orange[non]** è intelligente... ma uno strumento statico (come una calcolatrice) molto potente

- è un codice, possiamo ingegnerizzare le domande! (già un lavoro per molti!)

- Estremamente costoso sia da costruire che da (far) utilizzare... che concorrenza ha chi può permettersi di offrirlo?

- Tecnologia dirompente e sbalorditiva basata su linguaggio... preprogativa diretta solo dell'uomo fin'ora
  - che velocità avranno le norme nazionali e internazionali?
  - che giustezza avranno (troppo restrittive, troppo poco, in modo/ambito non efficace o dannoso)?

---
# Chat GPT...

- **.orange[Possiamo permetterci di ignorarlo?]**

- **.orange[Possiamo permetterci di non impararlo?]**

- **.orange[Possiamo permetterci di non insegnarlo?]**

ma di più...

- **.orange[Possiamo permetterci l'ingenuità non tanto aver paura qualcuno "bari", quanto piuttosto di non **richiedere** venga studiato, appreso **e utilizzato** a tutti i livelli sanitario, politico, scolastico, ...?! (come una calcolatrice...)]**

---
# .orange[Guidance] for .orange[Generative AI] in .orange[education] and .orange[research]
<iframe src="https://unesdoc.unesco.org/ark:/48223/pf0000386693?showcase=0" width="100%" height="400px" data-external="1"></iframe>

> Per scaricare il PDF, [clicca qui](https://inee.org/sites/default/files/resources/386693eng.pdf)

---
## .orange[EdGPT]...

---
# .orange[Link Utili] <small><small><small><small><small>(.black[AIE]-.orange[Giovani]: https://www.old.epidemiologia.it/aie-giovani/)</small></small></small></small></small>

Corsi MLT/DL/NLP (gratis, certificati a pagamento):
1. https://www.coursera.org/specializations/machine-learning-introduction
2. https://www.coursera.org/specializations/deep-learning
3. https://www.coursera.org/specializations/natural-language-processing

Machine Learning:
- (libro): https://www.cambridge.org/core/books/machine-learning/621D3E616DF879E494B094CC93ED36A4

Deep Learning:
- Convoluzione: https://towardsdatascience.com/covolutional-neural-network-cb0883dd6529
- Reti ricorrenti: https://karpathy.github.io/2015/05/21/rnn-effectiveness/
- Trasformer:
  - (Attention is All You Need) https://arxiv.org/abs/1706.03762
  - (video) https://youtu.be/zxQyTK8quyY
  - (testo) https://jalammar.github.io/illustrated-transformer/
- Generative AI: http://ig.ft.com/generative-ai/

GPT:
- Chat GPT: https://chat.openai.com
- API: https://openai.com/product
- Tokenizer (GUI): https://platform.openai.com/tokenizer
- Tiktoken (BPE): https://github.com/openai/tiktoken
- Playground: https://platform.openai.com/playground
- EdGPT: https://ednovation.com/edgpt/

Corso Prompt Engeneering:
- (gratis) https://www.deeplearning.ai/short-courses/chatgpt-prompt-engineering-for-developers/

Report UNESCO:
- (sito) https://unesdoc.unesco.org/ark:/48223/pf0000386693
- (PDF) https://inee.org/sites/default/files/resources/386693eng.pdf

Costs reports:
- https://sunyan.substack.com/p/the-economics-of-large-language-models
- https://www.nextplatform.com/2022/12/01/counting-the-cost-of-training-large-language-models/
- https://www.semianalysis.com/p/the-inference-cost-of-search-disruption

---
class: inverse, center, middle, hide-count
name: mylastslide

.bg-washed-green.b--dark-green.ba.bw2.br3.shadow-5.ph4.mt5[
.left[
_**.orange[Quando ormai si vola] / .orange[Non si può cadere più]**_
]

.tr[
— Vasco Rossi<br>1995/07/12 **Gli angeli**<br>https://youtu.be/Qi2wDkUIFGk
]
]

## Grazie per la .orange[vostra] attenzione 😘

Slides: https://bit.ly/ws-chatgpt-aie-giovani

[<svg aria-hidden="true" role="img" viewBox="0 0 640 512" style="height:1em;width:1.25em;vertical-align:-0.125em;margin-left:auto;margin-right:auto;font-size:inherit;fill:currentColor;overflow:visible;position:relative;"><path d="M579.8 267.7c56.5-56.5 56.5-148 0-204.5c-50-50-128.8-56.5-186.3-15.4l-1.6 1.1c-14.4 10.3-17.7 30.3-7.4 44.6s30.3 17.7 44.6 7.4l1.6-1.1c32.1-22.9 76-19.3 103.8 8.6c31.5 31.5 31.5 82.5 0 114L422.3 334.8c-31.5 31.5-82.5 31.5-114 0c-27.9-27.9-31.5-71.8-8.6-103.8l1.1-1.6c10.3-14.4 6.9-34.4-7.4-44.6s-34.4-6.9-44.6 7.4l-1.1 1.6C206.5 251.2 213 330 263 380c56.5 56.5 148 56.5 204.5 0L579.8 267.7zM60.2 244.3c-56.5 56.5-56.5 148 0 204.5c50 50 128.8 56.5 186.3 15.4l1.6-1.1c14.4-10.3 17.7-30.3 7.4-44.6s-30.3-17.7-44.6-7.4l-1.6 1.1c-32.1 22.9-76 19.3-103.8-8.6C74 372 74 321 105.5 289.5L217.7 177.2c31.5-31.5 82.5-31.5 114 0c27.9 27.9 31.5 71.8 8.6 103.9l-1.1 1.6c-10.3 14.4-6.9 34.4 7.4 44.6s34.4 6.9 44.6-7.4l1.1-1.6C433.5 260.8 427 182 377 132c-56.5-56.5-148-56.5-204.5 0L60.2 244.3z"/></svg>](https://www.unipd-ubep.it/) [**www.unipd-ubep.it**](https://www.unipd-ubep.it/) | 
[<svg aria-hidden="true" role="img" viewBox="0 0 640 512" style="height:1em;width:1.25em;vertical-align:-0.125em;margin-left:auto;margin-right:auto;font-size:inherit;fill:currentColor;overflow:visible;position:relative;"><path d="M128 0C110.3 0 96 14.3 96 32V224h96V192c0-35.3 28.7-64 64-64H480V32c0-17.7-14.3-32-32-32H128zM256 160c-17.7 0-32 14.3-32 32v32h96c35.3 0 64 28.7 64 64V416H576c17.7 0 32-14.3 32-32V192c0-17.7-14.3-32-32-32H256zm240 64h32c8.8 0 16 7.2 16 16v32c0 8.8-7.2 16-16 16H496c-8.8 0-16-7.2-16-16V240c0-8.8 7.2-16 16-16zM64 256c-17.7 0-32 14.3-32 32v13L187.1 415.9c1.4 1 3.1 1.6 4.9 1.6s3.5-.6 4.9-1.6L352 301V288c0-17.7-14.3-32-32-32H64zm288 84.8L216 441.6c-6.9 5.1-15.3 7.9-24 7.9s-17-2.8-24-7.9L32 340.8V480c0 17.7 14.3 32 32 32H320c17.7 0 32-14.3 32-32V340.8z"/></svg>](mailto:Corrado.Lanera@ubep.unipd.it) [**Corrado.Lanera@ubep.unipd.it**](mailto:Corrado.Lanera@ubep.unipd.it)

[<svg aria-hidden="true" role="img" viewBox="0 0 496 512" style="height:1em;width:0.97em;vertical-align:-0.125em;margin-left:auto;margin-right:auto;font-size:inherit;fill:currentColor;overflow:visible;position:relative;"><path d="M165.9 397.4c0 2-2.3 3.6-5.2 3.6-3.3.3-5.6-1.3-5.6-3.6 0-2 2.3-3.6 5.2-3.6 3-.3 5.6 1.3 5.6 3.6zm-31.1-4.5c-.7 2 1.3 4.3 4.3 4.9 2.6 1 5.6 0 6.2-2s-1.3-4.3-4.3-5.2c-2.6-.7-5.5.3-6.2 2.3zm44.2-1.7c-2.9.7-4.9 2.6-4.6 4.9.3 2 2.9 3.3 5.9 2.6 2.9-.7 4.9-2.6 4.6-4.6-.3-1.9-3-3.2-5.9-2.9zM244.8 8C106.1 8 0 113.3 0 252c0 110.9 69.8 205.8 169.5 239.2 12.8 2.3 17.3-5.6 17.3-12.1 0-6.2-.3-40.4-.3-61.4 0 0-70 15-84.7-29.8 0 0-11.4-29.1-27.8-36.6 0 0-22.9-15.7 1.6-15.4 0 0 24.9 2 38.6 25.8 21.9 38.6 58.6 27.5 72.9 20.9 2.3-16 8.8-27.1 16-33.7-55.9-6.2-112.3-14.3-112.3-110.5 0-27.5 7.6-41.3 23.6-58.9-2.6-6.5-11.1-33.3 2.6-67.9 20.9-6.5 69 27 69 27 20-5.6 41.5-8.5 62.8-8.5s42.8 2.9 62.8 8.5c0 0 48.1-33.6 69-27 13.7 34.7 5.2 61.4 2.6 67.9 16 17.7 25.8 31.5 25.8 58.9 0 96.5-58.9 104.2-114.8 110.5 9.2 7.9 17 22.9 17 46.4 0 33.7-.3 75.4-.3 83.6 0 6.5 4.6 14.4 17.3 12.1C428.2 457.8 496 362.9 496 252 496 113.3 383.5 8 244.8 8zM97.2 352.9c-1.3 1-1 3.3.7 5.2 1.6 1.6 3.9 2.3 5.2 1 1.3-1 1-3.3-.7-5.2-1.6-1.6-3.9-2.3-5.2-1zm-10.8-8.1c-.7 1.3.3 2.9 2.3 3.9 1.6 1 3.6.7 4.3-.7.7-1.3-.3-2.9-2.3-3.9-2-.6-3.6-.3-4.3.7zm32.4 35.6c-1.6 1.3-1 4.3 1.3 6.2 2.3 2.3 5.2 2.6 6.5 1 1.3-1.3.7-4.3-1.3-6.2-2.2-2.3-5.2-2.6-6.5-1zm-11.4-14.7c-1.6 1-1.6 3.6 0 5.9 1.6 2.3 4.3 3.3 5.6 2.3 1.6-1.3 1.6-3.9 0-6.2-1.4-2.3-4-3.3-5.6-2z"/></svg>](https://github.com/corradolanera)
[<svg aria-hidden="true" role="img" viewBox="0 0 512 512" style="height:1em;width:1em;vertical-align:-0.125em;margin-left:auto;margin-right:auto;font-size:inherit;fill:currentColor;overflow:visible;position:relative;"><path d="M459.37 151.716c.325 4.548.325 9.097.325 13.645 0 138.72-105.583 298.558-298.558 298.558-59.452 0-114.68-17.219-161.137-47.106 8.447.974 16.568 1.299 25.34 1.299 49.055 0 94.213-16.568 130.274-44.832-46.132-.975-84.792-31.188-98.112-72.772 6.498.974 12.995 1.624 19.818 1.624 9.421 0 18.843-1.3 27.614-3.573-48.081-9.747-84.143-51.98-84.143-102.985v-1.299c13.969 7.797 30.214 12.67 47.431 13.319-28.264-18.843-46.781-51.005-46.781-87.391 0-19.492 5.197-37.36 14.294-52.954 51.655 63.675 129.3 105.258 216.365 109.807-1.624-7.797-2.599-15.918-2.599-24.04 0-57.828 46.782-104.934 104.934-104.934 30.213 0 57.502 12.67 76.67 33.137 23.715-4.548 46.456-13.32 66.599-25.34-7.798 24.366-24.366 44.833-46.132 57.827 21.117-2.273 41.584-8.122 60.426-16.243-14.292 20.791-32.161 39.308-52.628 54.253z"/></svg>](https://twitter.com/corradolanera)
[<svg aria-hidden="true" role="img" viewBox="0 0 496 512" style="height:1em;width:0.97em;vertical-align:-0.125em;margin-left:auto;margin-right:auto;font-size:inherit;fill:currentColor;overflow:visible;position:relative;"><path d="M248,8C111.033,8,0,119.033,0,256S111.033,504,248,504,496,392.967,496,256,384.967,8,248,8ZM362.952,176.66c-3.732,39.215-19.881,134.378-28.1,178.3-3.476,18.584-10.322,24.816-16.948,25.425-14.4,1.326-25.338-9.517-39.287-18.661-21.827-14.308-34.158-23.215-55.346-37.177-24.485-16.135-8.612-25,5.342-39.5,3.652-3.793,67.107-61.51,68.335-66.746.153-.655.3-3.1-1.154-4.384s-3.59-.849-5.135-.5q-3.283.746-104.608,69.142-14.845,10.194-26.894,9.934c-8.855-.191-25.888-5.006-38.551-9.123-15.531-5.048-27.875-7.717-26.8-16.291q.84-6.7,18.45-13.7,108.446-47.248,144.628-62.3c68.872-28.647,83.183-33.623,92.511-33.789,2.052-.034,6.639.474,9.61,2.885a10.452,10.452,0,0,1,3.53,6.716A43.765,43.765,0,0,1,362.952,176.66Z"/></svg>](https://telegram.me/CorradoLanera)
**@CorradoLanera** | 
[<svg aria-hidden="true" role="img" viewBox="0 0 496 512" style="height:1em;width:0.97em;vertical-align:-0.125em;margin-left:auto;margin-right:auto;font-size:inherit;fill:currentColor;overflow:visible;position:relative;"><path d="M165.9 397.4c0 2-2.3 3.6-5.2 3.6-3.3.3-5.6-1.3-5.6-3.6 0-2 2.3-3.6 5.2-3.6 3-.3 5.6 1.3 5.6 3.6zm-31.1-4.5c-.7 2 1.3 4.3 4.3 4.9 2.6 1 5.6 0 6.2-2s-1.3-4.3-4.3-5.2c-2.6-.7-5.5.3-6.2 2.3zm44.2-1.7c-2.9.7-4.9 2.6-4.6 4.9.3 2 2.9 3.3 5.9 2.6 2.9-.7 4.9-2.6 4.6-4.6-.3-1.9-3-3.2-5.9-2.9zM244.8 8C106.1 8 0 113.3 0 252c0 110.9 69.8 205.8 169.5 239.2 12.8 2.3 17.3-5.6 17.3-12.1 0-6.2-.3-40.4-.3-61.4 0 0-70 15-84.7-29.8 0 0-11.4-29.1-27.8-36.6 0 0-22.9-15.7 1.6-15.4 0 0 24.9 2 38.6 25.8 21.9 38.6 58.6 27.5 72.9 20.9 2.3-16 8.8-27.1 16-33.7-55.9-6.2-112.3-14.3-112.3-110.5 0-27.5 7.6-41.3 23.6-58.9-2.6-6.5-11.1-33.3 2.6-67.9 20.9-6.5 69 27 69 27 20-5.6 41.5-8.5 62.8-8.5s42.8 2.9 62.8 8.5c0 0 48.1-33.6 69-27 13.7 34.7 5.2 61.4 2.6 67.9 16 17.7 25.8 31.5 25.8 58.9 0 96.5-58.9 104.2-114.8 110.5 9.2 7.9 17 22.9 17 46.4 0 33.7-.3 75.4-.3 83.6 0 6.5 4.6 14.4 17.3 12.1C428.2 457.8 496 362.9 496 252 496 113.3 383.5 8 244.8 8zM97.2 352.9c-1.3 1-1 3.3.7 5.2 1.6 1.6 3.9 2.3 5.2 1 1.3-1 1-3.3-.7-5.2-1.6-1.6-3.9-2.3-5.2-1zm-10.8-8.1c-.7 1.3.3 2.9 2.3 3.9 1.6 1 3.6.7 4.3-.7.7-1.3-.3-2.9-2.3-3.9-2-.6-3.6-.3-4.3.7zm32.4 35.6c-1.6 1.3-1 4.3 1.3 6.2 2.3 2.3 5.2 2.6 6.5 1 1.3-1.3.7-4.3-1.3-6.2-2.2-2.3-5.2-2.6-6.5-1zm-11.4-14.7c-1.6 1-1.6 3.6 0 5.9 1.6 2.3 4.3 3.3 5.6 2.3 1.6-1.3 1.6-3.9 0-6.2-1.4-2.3-4-3.3-5.6-2z"/></svg>](https://github.com/UBESP-DCTV)
**@UBESP-DCTV**