Salta al contenuto
EsterneTecnologie e app

Come Amazon usa l’AI per autenticare le recensioni dei clienti

Cosa succede quando “scrivi e pubblichi una recensione”? Ecco come l’IA evoluta contribuisce a pubblicare recensioni autentiche e a bloccare quelle false. Le recensioni sono uno dei motivi principali per cui i clienti amano fare acquisti su Amazon sin dal suo esordio nel 1995. Amazon fa in modo che sia semplice per loro lasciare recensioni affidabili per aiutare le decisioni di acquisto di milioni di altri clienti in tutto il mondo. Allo stesso tempo, l’azienda rende difficile per i malintenzionati sfruttare la fiducia dei clienti verso l’esperienza di acquisto su Amazon.

Quindi, cosa accade quando un cliente invia una recensione? Prima della sua pubblicazione online, Amazon utilizza l’Intelligenza Artificiale (IA) per analizzare la recensione verificando la presenza di indicatori noti che ne rivelino la falsità. La stragrande maggioranza delle recensioni supera tale verifica di autenticità e viene immediatamente pubblicata. Tuttavia, se si sospetta un potenziale illecito,si aprono diverse possibilità. Se la recensione è certamente falsa, Amazon procede prontamente a bloccarla o rimuoverla e, se necessario, intraprende ulteriori azioni come, ad esempio, revocare il privilegio di un cliente di recensire, bloccare gli account dei malintenzionati o persino avviare un’azione legale contro le parti coinvolte. Se una recensione è sospetta, ma è necessario raccogliere altre prove, investigatori esperti di Amazon, specificamente formati per individuare i comportamenti illeciti, continueranno il processo di verifica cercando altri dati prima di intraprendere ulteriori azioni. Nel 2022 Amazon ha verificato e bloccato, grazie ad attività proattive, oltre 200 milioni di recensioni sospette sui suoi siti a livello mondiale.

“Le recensioni false hanno l’obiettivo di fuorviare in modo intenzionale i clienti fornendo informazioni che non sono imparziali, autentiche, o specifiche per quel determinato prodotto o servizio”, ha dichiarato Josh Meek, Senior Data Science Manager del team Fraud Abuse and Prevention di Amazon. “Sono milioni i clienti che basano le proprie decisioni di acquisto su Amazon sull’autenticità delle recensioni, e sono milioni anche i brand e le aziende che contano su un’accurata individuazione delle recensioni false da parte di Amazon affinché non giungano ai loro clienti. Lavoriamo duramente per monitorare e applicare responsabilmente le nostre policy per garantire che le recensioni riflettano le reali opinioni dei clienti e per proteggere i partner di vendita onesti che si affidano a noi per ottenere il miglior servizio possibile”.

Insieme ad altri strumenti, Amazon utilizza i più recenti sviluppi nell’ambito dell’IA per bloccare centinaia di milioni di recensioni online sospette, valutazioni manipolate, account falsi e altri abusi, prima che il cliente li possa visualizzare I modelli di Machine Learning (ML) analizzano una vasta quantità di dati proprietari, tra cui la presenza o meno di annunci pubblicitari da parte del partner di vendita (che potrebbero determinare recensioni più numerose), le segnalazioni di abuso inviate dai clienti, i modelli comportamentali di rischio, la cronologia delle recensioni e molto altro ancora. Si sfruttano i Large Language Models (LLM) e le tecniche di Natural Language Processing per analizzare le anomalie presenti in questi dati che potrebbero indicare che una recensione è falsa o incentivata, ad esempio, tramite gift card, omaggi o altre forme di rimborso. Amazon usa anche i Deep Graph Neural Networks (GNN) per analizzare e comprendere le relazioni complesse e i modelli di comportamento con l’obiettivo di individuare e bloccare i gruppi di malintenzionati.

“La differenza tra una recensione autentica e una recensione falsa non è sempre immediata da individuare per chi non fa parte del mondo Amazon”, sostiene Meek. “Ad esempio, il numero di recensioni di un prodotto potrebbe aumentare velocemente perché il partner di vendita ha investito in pubblicità oppure ha applicato un prezzo di vendita interessante. Oppure un cliente potrebbe pensare che una recensione sia falsa perché contiene errori grammaticali”.

È su questo punto che alcuni dei nostri detrattori si sbagliano sulla rilevazione delle recensioni false: sono costretti a fare supposizioni importanti senza avere accesso a dati che evidenziano la presenza di uno schema di abuso. Grazie all’utilizzo di tecnologia all’avanguardia e di dati proprietari, Amazon riesce ad individuare le recensioni false in modo più accurato andando oltre gli indicatori superficiali di abuso per individuare interconnessioni più profonde tra i malintenzionati.

“La nostra priorità è fare in modo che l’esperienza di acquisto sia sempre affidabile” ha dichiarato Rebecca Mond, Head of External Relations, Trustworthy Reviews di Amazon. “Siamo costantemente all’opera per migliorare il processo di verifica e bloccare la pubblicazione di recensioni false sui nostri negozi online, nonché proteggere i nostri clienti affinché possano fare acquisti con fiducia”.