In questo caso presumo che chiunque risponderebbe di no, il figlio dovrebbe essere un bene maggiore, per natura.

Anche se dalla sua morte dipendesse il futuro di tutta l'umanità?

Semplicisticamente potremmo forse identificare la scelta irrazionale con la funzione random

Occhio che ad oggi, il massimo di random che riusciamo a creare con un calcolatore è uno "Pseudo-random", ovvero un numero che sembra casuale ma che in realtà non lo è :)

l problema vero nascerebbe quando, nonostante gli algoritmi e le "irrazionalità simulate" prevedibili o previste, la IA dovesse evolversi da sola per qualche strano motivo, qualcosa che era sfuggito nella programmazione dell'algoritmo

Allora... con la tecnologia attuale, nonostante tutti i progressi, una cosa del genere NON può ancora succedere. Questo perché le I.A. ancora funzionano in base agli input che gli vengono dati, non riescono ancora ad inventare nulla di loro iniziativa. Bisognerebbe aspettare un'era nella quale ad una I.A. verranno forniti sensori adeguati, reti neurali complesse, algoritmi di auto-apprendimento ma soprattutto un qualche tipo di "Iniziativa autonoma"... una scintilla di vita :)

Grazie per il supporto!