D'un côté, il y a les algorithmes génétiques, dont le père spirituel est John Holland. En 1980, il implémenta son étude en l'appliquant à l'optimisation de la capacités des pipelines de gaz : il donne au système les caractéristiques de la solution actuelle et lui dit comment juger les performances. Le système modifie aléatoirement les différents paramètres (pression, débit, etc.) et regarde le résultat. Il fait ça beaucoup de fois et garde uniquement les solutions qui ont engendré une amélioration du système, il jette les autres. Ensuite, il combine toutes ces améliorations, regardes les résulats, jette, recombine, etc. Jusqu'à obtenir le meilleur résultat : l'optimisation recherchée.

De l'autre côté, il y a l'intelligence artificielle (IA), dont le principal but est de modéliser les fonctions cognitives humaines, tel la langue ou la reconnaissance d'objets ou situations. Les débouchés sont moins pratiques, mais les chercheurs en IA sont extrêmement optimistes (un sujet de conférence, sérieusement débattu, a été "l'IA pour président ?").

Bref, l'idée de John Koza (et c'est ça qui nous intéresse ici, finalement), c'est de mélanger ces deux domaines de recherche. Le concret de l'un avec les avancées de l'autre. Mais ce qui l'ennuie dans cette histoire, c'est l'incapacité de faire émerger de nouvelles solutions aux problèmes.
En 1987, il se demande pourquoi ne pas permettre à un algorithme génétique, plutôt que de modifier des paramètres, de se modifier lui-même ?

Son idée perce en 1995 : John voit son ordinateur dessiner un circuit électrique. N'y connaissant pas grand chose, il le montre à un collègue qui lui dit qu'il s'agit d'un filtre passe-bas, utilisé dans les amplificateurs. La différence fondamentale, par rapport aux pipelines de son prof Holland, c'est que son algorithme n'est pas parti d'un circuit basique existant, mais juste d'une pile de composants (résistances, capacités, ...). Son algorithme est devenu inventif et créatif !
En apprenant qu'un brevet avait été déposé quelques années plus tôt sur ce type de filtre, John en conclut qu'il est possible de laisser son ordinateur pondre des inventions brevetables.

C'est ce qu'il fait maintenant, à l'aide d'un millier d'ordinateurs en réseau qui font tourner ce genre d'algorithme. Le dernier exemple en date, c'est la NASA qui en profite : pour la mission Space Technology 5, un collègue de John Koza intègre les spécifications basiques d'une antenne et laisse le programme travailler dessus. Des centaines d'itérations plus tard, semble apparaître une erreur : le résultat ressemble à un trombone tordu. Dans aucun chapitre d'aucun document, on ne parle d'antenne tordue. Une fois dans la chambre de test, il s'est révélé que cette antenne était la parfaite solution recherchée par la NASA, intégrant toutes les contraintes de la mission !