Algorithmic pricing, etica e un libro da 23 milioni di dollari
A cura di Fabrizio Di Priamo – GDP Analytics
Affidare il pricing a un algoritmo è una prassi sempre più diffusa. I benefici sono palpabili e le moderne tecniche di intelligenza artificiale sempre più accurate. Ma questi algoritmi sono etici? E soprattutto: perché mai un libro di biologia su Amazon dovrebbe costare 23 milioni di dollari?!
Cos’è l’algoritmic pricing?
Il pricing è il processo mediante il quale vengono definiti i prezzi ottimali a cui vendere beni e servizi. Come indica la terminologia stessa, si parla di algorithmic pricing quando il pricing è svolto da un algoritmo.
Un interessante articolo del 2003, The power of pricing, pubblicato sul McKinsey Quarterly, evidenziava come un corretto pricing fosse il mezzo più veloce ed efficace a disposizione dei manager per incrementare la redditività aziendale. In particolare, veniva mostrato come una tipica società all’interno del S&P 1500 avrebbe in media aumentato dell’8% i profitti a fronte di un aumento di solo l’1% del prezzo dei propri prodotti o servizi.
Al giorno d’oggi sono due i motivi fondamentali che spingono le aziende ad affidare il pricing a degli algoritmi: da un lato ci sono i volumi di vendita in costante crescita sulle piattaforme di e-commerce, dall’altro gli algoritmi di intelligenza artificiale e big data analytics in grado di eguagliare, e spesso superare, la performance di un essere umano nei più diversi ambiti.
La parte etica della questione
Proprio il crescente utilizzo dell’IA spinge spesso a porsi delle domande di natura etica riguardo le decisioni prese da questi algoritmi.
Se una vettura a guida autonoma, sfruttando tempi di reazione ed elaborazione al di là delle capacità umane, fosse in grado di evitare un incidente potenzialmente letale per quattro passeggeri al prezzo di investire (e uccidere) un ignaro pedone sul marciapiede, cosa dovrebbe fare?
Nel caso del pricing non ci si chiede soltanto se sia giusto o meno che un utente che acceda da un iPhone veda i prezzi leggermente ritoccati verso l’alto rispetto a un utente che acceda da un dispositivo Android. La questione è più sottile e gli scenari che si profilano appaiono decisamente più intricati e preoccupanti.
I moderni algoritmi di IA non sono programmati per seguire delle regole, ma sfruttano l’interazione con l’ambiente, e l’esperienza che ne deriva, per svolgere al meglio il compito che gli viene assegnato. Se questo compito è massimizzare i profitti, cosa dobbiamo aspettarci?
Quello che preoccupa l’antitrust è che algoritmi di questo tipo possano “imparare” a colludere anche quando non siano comunicanti, né programmati per farlo.
A sostegno di questa ipotesi ci sono degli esprimenti condotti a livello accademico che mostrano come, all’interno di simulazioni in ambiente controllato, gli algoritmi abbiano sviluppato un comportamento di sospetta collusione. Questo non solo sarebbe un problema per tutti i consumatori e per l’efficienza del sistema economico, ma nella maggior parte dei paesi mancano leggi che possano punire questa sorta di collusione “tacita”.
Dall’altro lato, tuttavia, c’è il punto di vista dei venditori, che sottolineano come non ci siano prove in nessun caso reale di questa eventuale collaborazione da parte di algoritmi indipendenti e che comunque raggiungere un equilibrio che possa beneficiare tutti gli operatori di un determinato mercato sia sempre stato uno degli obiettivi delle aziende, anche prima dell’avvento dell’IA, e che un genuino raggiungimento di questo equilibrio non vìoli in alcun modo le leggi vigenti.
Insomma, la situazione è piuttosto complessa, sia da un punto di vista etico che da un punto di vista tecnico; e il fatto che questi algoritmi non lascino alcuna traccia, anche qualora stiano effettivamente colludendo, non è certo d’aiuto.
Il libro sulle farfalle da $23,698,655.93
Anche in presenza degli algoritmi più sofisticati, quando non si prevede la supervisione di un essere umano, possono accadere cose strane. È questo il caso del libro di Peter Lawrence, The Making of a Fly.
Il libro, fuori stampa dal 1992, il 18 aprile del 2011 ha raggiunto su Amazon il prezzo record di $23,698,655.93. “Un errore” penserete, eppure quello stesso giorno, sempre su Amazon, c’era un altro venditore con un prezzo molto più ragionevole: $18,651,718.08.
Vi starete chiedendo come sia possibile! Quello che stava succedendo era che c’erano due algoritmi (molto banali e non classificabili come IA) che si limitavano a fare quello per cui erano stati programmati.
Il primo venditore (forte del gran numero di recensioni positive) aveva programmato l’algoritmo in modo che il prezzo dell’articolo fosse il 27% più alto rispetto al rivenditore più economico sulla piattaforma; mentre il secondo venditore aveva programmato l’algoritmo in modo che il prezzo fosse in linea col rivenditore più economico.
Il caso volle che a un certo punto rimanessero solo loro come venditori e ognuno rappresentava per l’altro il “rivenditore più economico”. Ogni giorno il primo algoritmo aumentava il prezzo del 27% rispetto al secondo, che però il giorno successivo ci si riallineava. E così giorno dopo giorno, fino a raggiungere la tragicomica situazione in figura.
Fonti:
https://www.mckinsey.com/business-functions/marketing-and-sales/our-insights/the-power-of-pricinghttps:
https://voxeu.org/article/artificial-intelligence-algorithmic-pricing-and-collusionhttp: