Fake news: Η εποχή της ‘μετα-αλήθειας’ και ο ρόλος των Μέσων Κοινωνικής Δικτύωσης

του Χρήστου Κωστόπουλου 

Τα αποτελέσματα των Αμερικανικών εκλογών και του Βρετανικού δημοψηφίσματος το 2016 έφεραν στο προσκήνιο τα λεγόμενα fake news, δηλαδή τις κατασκευασμένες ή ψεύτικες ειδήσεις. Το παρόν άρθρο μετά από μια σύντομη ιστορική αναδρομή στη διασπορά ψευδών ειδήσεων από τα ΜΜΕ, επικεντρώνεται στις Αμερικανικές εκλογές του 2016 και στο Βρετανικό δημοψήφισμα που διεθνώς έχουν θεωρηθεί ως σημεία αναφοράς στη σύγχρονη ιστορία της διασποράς ψευδών ειδήσεων. Το άρθρο εστιάζει στον καταλυτικό ρόλο που έπαιξαν οι αλγόριθμοι και οι πλατφόρμες των Μέσων Κοινωνικής Δικτύωσης καθώς και τις επιπτώσεις που έχουν στη δημοσιογραφία και τη δημοκρατία, εξετάζοντας συγχρόνως και την περίπτωση της Ευρωπαϊκής Ένωσης και της Ελλάδας, και τους τρόπους αντιμετώπισης του φαινομένου.

Ιστορική αναδρομή των fake news

Ένας γρήγορος έλεγχος σε οποιοδήποτε λεξικό θα μας διαφωτίσει σχετικά με το τι ορίζουμε ως ‘fake news’. Τα fake news είναι ψεύτικες, αρκετές φορές εντυπωσιακές πληροφορίες που διαδίδονται με αμφίεση πραγματικής είδησης. Ωστόσο υπάρχουν διαφορετικές οπτικές πάνω στο πως ορίζουμε τι είναι μια ψεύτικη είδηση. Η έκθεση της Ομάδας Εμπειρογνωμώνων που συνέστησε η Κομισιόν για τα fake news προτιμάει τη χρήση του όρου «παραπληροφόρηση» την οποία ορίζει ως εξής: «Ψευδείς, ανακριβείς ή παραπλανητικές πληροφορίες που κατασκευάζονται, παρουσιάζονται και προωθούνται με σκοπό το κέρδος ή για να ζημιώσουν το κοινό συμφέρον» (Directorate-General for Communication Networks, Content and Technology, 2018). Σημαντική επίσης είναι η διάκριση μεταξύ ψευδών και ψευδεπίγραφων ειδήσεων την οποία υπογράμμισε ο καθηγητής Γ. Πλειός σε συνέντευξη του στην ‘Αυγή’:

Υπάρχουν δύο ειδών σκόπιμες παραποιήσεις. Αυτές που κατασκευάζουν ένα γεγονός χωρίς να υπάρχει. Η πρώτη είναι οι ψευδείς ειδήσεις (false news) που διώκονται και από τον νόμο σε πολλές χώρες. Η δεύτερη κατηγορία ειδήσεων είναι αυτή στην οποία έχουν «πειραχτεί» κάποιες παράμετροι, όπως ο χρόνος του γεγονότος, ο χώρος (π.χ. η γνωστή φωτογραφία του κορμοράνου), οι πρωταγωνιστές (π.χ. όπως στις γνωστές «σταλινικές» φωτογραφίες ή άλλες από το Ιράκ), η αλλαγή κάποιων ιδιοτήτων (όπως της φερόμενης ως εκφωνήτριας ειδήσεων στα αγγλικά στην ΕΡΤ φέρουσα την ισλαμική μαντίλα) κ.ά. Και στις δύο περιπτώσεις η παραποίηση είναι προϊόν προκαταλήψεων ή αποσκοπεί να τις διατηρήσει μέσω των ειδήσεων, παραβιάζοντας τη λογική των γεγονότων (Νταρζάνου 2018).

Ωστόσο, ο γενικός ορισμός των fake news δημιουργεί εύλογες απορίες για το κατά πόσο είναι ένα καινούριο φαινόμενο, το οποίο ήρθε στην επιφάνεια το 2016, καθώς ιστορικά υπάρχουν πολλές καταγεγραμμένες περιπτώσεις όπου τα ΜΜΕ είτε συνειδητά είτε όχι συμμετείχαν στην διασπορά ψεύτικων ειδήσεων.

Οι πρώτες αναφορές ψεύτικων ειδήσεων στις εφημερίδες ξεκινούν την δεκαετία του 1890, ενώ το 1903 η Clarksburg Daily Telegram στην πολιτεία της Δυτικής Βιρτζίνια έστησε μια παγίδα σε αντίπαλη της εφημερίδα που έκλεβε τις ιστορίες της γράφοντας μια ψεύτικη είδηση για τον υποτιθέμενο πυροβολισμό ενός μεταλλωρύχου μετά από έναν διαπληκτισμό για έναν σκύλο. Το επώνυμο του μεταλλωρύχου ήταν Swenekafew, και πρόκειται για έναν έξυπνο αναγραμματισμό της φράσης ‘We fake news’, ή στα Ελληνικά ‘πλαστογραφούμε ειδήσεις’. Εάν ταξιδέψουμε ακόμη πιο μακριά στο παρελθόν θα βρούμε γνωστές υποθέσεις ψεύτικων ειδήσεων καθ’ όλη την διάρκεια του 19ου αλλά και του 18ου αιώνα.

Το 1835 η Sun της Νέας Υόρκης αποφασίζει να εκδώσει μια σειρά άρθρων τα οποία ισχυρίζονται ότι ο Σερ Τζον Χέρσελ, από τους γνωστότερους αστρονόμους της εποχής ανακάλυψε ζωή στο φεγγάρι χρησιμοποιώντας ένα ισχυρό τηλεσκόπιο που του επέτρεψε να δει την επιφάνεια της σελήνης. Τα άρθρα για αρκετές εβδομάδες περιέγραφαν ανθρωπόμορφα πλάσματα με χαρακτηριστικά νυχτερίδας και τον τρόπο ζωής τους. Η εφημερίδα φυσικά γνώριζε ότι η ιστορία δεν είχε βάσει στην πραγματικότητα αλλά επέλεξε να την εκδώσει ούτως ή άλλως, συνοδεύοντας την μάλιστα με σκίτσα των ‘ανακαλύψεων’. Οι πωλήσεις της εφημερίδας διπλασιάστηκαν κατά την διάρκεια αυτών των εβδομάδων, σπάζοντας κάθε ρεκόρ πωλήσεων. Και αυτή η ιστορία μας αποκαλύπτει την κύρια κινητήρια δύναμη πίσω από την διασπορά ψευδών ειδήσεων, το χρήμα.

Το 2016 ως σημείο τομής: Η εποχή της ‘μετα-αλήθειας’

Η προηγούμενη παράγραφος ανέδειξε ότι η διασπορά ψέματος σε έντυπη μορφή είναι τόσο παλιά όσο και η ίδια η εκτύπωση. Επομένως, δημιουργείται η απορία για ποιον λόγο τα fake news μπήκαν τόσο δυναμικά στην καθημερινότητα μας το 2016 και κατά πόσο έχουμε να κάνουμε με μια καινούρια κατάσταση. Το πρόσωπο που σε μεγάλο βαθμό «ευθύνεται» για αυτή την εξέλιξη είναι ο Πρόεδρος των Η.Π.Α. Ντόναλντ Τραμπ ο οποίος χρησιμοποίησε τον όρο κατά κόρον τόσο κατά την διάρκεια της προεκλογικής εκστρατείας όσο και μετά την εκλογή του.

Φυσικά πίσω και πέρα από την πολιτική χρήση του όρου και την ένταξη του στην καθημερινότητά μας κρύβονται πραγματικά γεγονότα τα οποία έπαιξαν σημαντικό ρόλο στην έκβαση των εκλογικών αναμετρήσεων του 2016 τόσο στην Αμερική όσο και στην Βρετανία, στα οποία καταλυτικός παράγοντας υπήρξαν οι νέες τεχνολογίες επικοινωνίας με τα Μέσα Κοινωνικής Δικτύωσης στην προμετωπίδα τους. Οι πλέον χαρακτηριστικές περιπτώσεις διασποράς ψευδών ειδήσεων που παράλληλα καταδεικνύουν τις πολιτικές επιπτώσεις του φαινομένου ήταν το ‘εργοστάσιο’ παραγωγής fake news στη Βόρεια Μακεδονία, και η εμπλοκή των λεγόμενων ‘bot’ στο Βρετανικό δημοψήφισμα.

Στην περίπτωση των Αμερικανικών εκλογών του 2016 μια από τις υποθέσεις που προβλημάτισαν για τον πολιτικό και επικοινωνιακό ρόλο των ΜΚΔ ήταν η αποκάλυψη ενός «εργοστασίου» ψευδών ειδήσεων στην πόλη Βέλες της Βόρειας Μακεδονίας. Αυτό που συνέβη ήταν ότι μια παρέα εφήβων από την γειτονική χώρα ξεκίνησε να γράφει άρθρα με ψεύτικες ειδήσεις οι οποίες κατά κύριο λόγο αφορούσαν την Χίλαρι Κλίντον, τα οποία είχαν τόση μεγάλη απήχηση και έφεραν τόσο μεγάλη επισκεψιμότητα στις σελίδες τους που σύντομα άρχισαν να παράγουν σημαντικά διαφημιστικά έσοδα (Subramanian, 2017). Αν και οι Δημοκρατικοί ερεύνησαν αρκετά την υπόθεση σχετικά με την πιθανή εμπλοκή της Μόσχας ή του Ρεπουμπλικανικού Κόμματος (Mak 2018, Silverman et al 2018) το πραγματικό πρόβλημα σε αυτή την ιστορία δεν είναι η πολιτική προτίμησή τους, αλλά η ίδια η αρχιτεκτονική των ΜΚΔ.

Παρόλο που δεν γνωρίζουμε ακριβώς πως λειτουργούν οι αλγόριθμοι της Google και του Facebook, γνωρίζουμε ότι συλλέγουν πληροφορίες για το τις μας αρέσει να βλέπουμε και να διαβάζουμε βάσει των διαδικτυακών μας κινήσεων και μπορούμε να εξάγουμε συμπεράσματα για την λειτουργία τους βάση των αποτελεσμάτων που παράγουν και των νέων που βλέπουμε να προωθούνται στις οθόνες μας. Δεδομένου ότι αυτές οι πλατφόρμες έχουν οικονομικό συμφέρον να μας κρατάνε δικτυωμένους όσο περισσότερο χρόνο γίνεται κατά την διάρκεια της ημέρας, προωθούνται ειδήσεις με γνώμονα το εάν ο κάθε χρήστης θα τις βρει ενδιαφέρουσες και όχι την δημοσιογραφική τους αξία ή την σχέση τους με την πραγματικότητα.

Έτσι λοιπόν ο ρόλος που έπαιξαν τα ΜΚΔ σε αυτή την εκλογική αναμέτρηση ήταν να “συνδέσουν” ένα κοινό έτοιμο να διαβάσει οποιαδήποτε είδηση χρωμάτιζε αρνητικά τη Χίλαρι, με ανθρώπους που ήταν διατεθειμένοι να γράψουν αυτές τις ειδήσεις ώστε να βγάλουν χρήματα, χωρίς να ανησυχούν για ζητήματα δημοσιογραφικής δεοντολογίας και αλήθειας. Είτε είσαι ένας ιδιώτης που δεν πιστεύει στην δεοντολογία, είτε ένας έφηβος με γνώσεις προγραμματισμού, το συστημικό περιβάλλον των αλγόριθμων των ΜΚΔ επιβραβεύει την δύναμη μιας είδησης να εντυπωσιάσει σε βάρος της αλήθειας και της δημοσιογραφικής έρευνας.

Εξίσου προβληματική για τον ρόλο των ΜΚΔ ήταν και η υπόθεση του δημοψηφίσματος για τη συμμετοχή του Ηνωμένου Βασιλείου στην Ευρωπαϊκή Ένωση και οι αποκαλύψεις για τον ρόλο που έπαιξαν τα ‘botnet’ στην διαμόρφωση του επικοινωνιακού περιβάλλοντος των χρηστών των ΜΚΔ στην Βρετανία.

Photo by Markus Spiske on Unsplash

Τα ‘botnet’ είναι ομάδες χιλιάδων αυτοματοποιημένων προγραμμάτων τα οποία χειρίζονται εικονικά προφίλ και πραγματοποιούν απλές διαδικασίες στα ΜΚΔ όπως το να κάνουν share ή like σε οποιαδήποτε είδηση περιέχει μια συγκεκριμένη σειρά λέξεων-κλειδιών. Αυτό έχει ως αποτέλεσμα αυτά τα bot να ελέγχουν σε μεγάλο βαθμό το ποιες ειδήσεις θα βρίσκονται στην κορυφή των τάσεων των ΜΚΔ, το ποια hashtags θα μπαίνουν στις τάσεις κ.ο.κ.

Η επιρροή τους στο Βρετανικό δημοψήφισμα ήταν σημαντική, καθώς χιλιάδες από αυτά τα προγράμματα κατάφεραν να προωθήσουν ψεύτικες ειδήσεις στην κορυφή των τάσεων, δημιουργώντας μια ‘παράσταση νίκης’ για την καμπάνια υπέρ του Brexit. Σημαντικές ήταν οι αποκαλύψεις περί της εμπλοκής της Cambridge Analytica, αλλά και άλλων εταιριών στην καμπάνια υπέρ του Brexit. Τα ΜΚΔ έδωσαν τη γενικότερη δυνατότητα να προσεγγιστούν ψηφοφόροι απογοητευμένοι από το σύστημα που παραδοσιακά απείχαν από τις εκλογές μέσω αλγόριθμων και να ‘τροφοδοτηθούν’ με ειδήσεις που θα τους έκαναν να ψηφίσουν υπέρ του Brexit αποδεικνύοντας την αλλαγή παραδείγματος στην πολιτική επικοινωνία.

Αυτά τα δυο παραδείγματα ήταν η κορυφή ενός παγόβουνου εξελίξεων που οδήγησαν αρκετούς ερευνητές να μιλήσουν για μια νέα εποχή, την εποχή της ‘μέτα-αλήθειας’ (post-truth). Ο ορισμός αυτής της νέας εποχής σημαίνει ότι πλέον δεν υπάρχει μια, παγκόσμια αλήθεια για όλους τους ανθρώπους. Σε αυτή τη νέα εποχή οι συζητήσεις για την πολιτική δεν κρίνονται πλέον από αυτό που ονομάζαμε ‘αλήθεια’ ή ‘αντικειμενικό γεγονός’, το κέντρο βάρους δεν είναι πλέον στις αποδείξεις και τα εμπειρικά γεγονότα αλλά στα συναισθήματα και τα προσωπικά πιστεύω.

Οι ψηφοφόροι πλέον ενδιαφέρονται περισσότερο για συναισθηματικές και εντυπωσιακές επικλήσεις. Επομένως όταν αναφερόμαστε στην εποχή της μέτα-αλήθειας εννοούμε μια διαφορετική αντίληψη της κοινωνίας και της δημόσιας σφαίρας ως προς το τι είναι γεγονός και απόδειξη, αλλά και ως προς τον τρόπο επικοινωνίας των ηγετών με το κοινό. Ωστόσο, πρέπει να τονιστεί ότι παρ’όλες τις αλλαγές στην υφή και τον τρόπο της επικοινωνίας δεν μπορούν και δεν πρέπει όλα τα εκλογικά αποτελέσματα να εξηγηθούν ντετερμινιστικά ως προς την σχέση τους με τα Μέσα, καθώς οι αντικειμενικές υλικές συνθήκες βρίσκονται πάντα στην βάση τους. Επομένως, ενώ όντως έχουμε μπει σε μια νέα εποχή όσον αφορά την επικοινωνία, το κατά πόσο αυτό αλλάζει την ουσία της πολιτικής χρήζει περαιτέρω διερεύνησης.

Fake news αλά Ελληνικά

Το ζήτημα των fake news όπως είναι φυσιολογικό δεν άργησε να απασχολήσει και την ευρωπαϊκή πραγματικότητα, και φυσικά και την ελληνική. Η απάντηση του Facebook στις κατηγορίες κατά των αλγόριθμων του και της λειτουργίας τους, ήταν να συνάψει τοπικές συμφωνίες με ιδιωτικές ομάδες διασταύρωσης στοιχείων με σκοπό να αναπτυχθούν εργαλεία προειδοποίησης των χρηστών για ψεύτικες ιστορίες ή για αναπαραγωγή ιστότοπων που έχουν διασπείρει στο παρελθόν ψεύτικες ιστορίες. Στο ελληνικό Facebook αυτή η ομάδα είναι τα ‘Ελληνικά hoaxes’. Υπάρχουν δυο κριτικές σχετικά με αυτή την απόφαση. Η πρώτη κριτική πηγάζει από τον προβληματισμό που υπάρχει όσον αφορά το τι συνιστά αντικειμενικό στοιχείο και τι ερμηνεία του και κατά πόσο μια ιδιωτική ομάδα μπορεί να παίρνει αυτές τις αποφάσεις. Η δεύτερη και κατά την γνώμη μου πιο σημαντική κριτική έχει να κάνει με το γεγονός ότι αυτή η απόφαση του Facebook μοιάζει πιο πολύ σαν ένα ‘τσιρότο’ παρά σαν μια σοβαρή λύση. Είναι αποδεδειγμένο ότι οι χρήστες δεν ενδιαφέρονται για την αλήθεια μιας είδησης, καθώς πολλές περιπτώσεις fake news που καταρρίφθηκαν δεν είχαν την διάδοση που είχε η αρχική είδηση. Ο χρήστης ψάχνει και βρίσκει τις πληροφορίες που επιβεβαιώνουν την προκατάληψή του (Deb et al. 2017) και μια ταμπέλα ότι η πληροφορία είναι ψευδής μπορεί εύκολα να αγνοηθεί ή να θεωρηθεί και αυτό ένα κομμάτι της ‘συστημικής προπαγάνδας’. Αυτή η λύση δεν αγγίζει την πηγή του προβλήματος, που είναι η ίδια η αρχιτεκτονική των αλγόριθμων του Facebook.

Αλγοριθμική εξουσία  

Όπως προαναφέρθηκε, το πρόβλημα με τις ψεύτικες ειδήσεις στην σύγχρονη εποχή δεν είναι τόσο η ύπαρξή τους, καθώς υπήρχαν από πάντα, αλλά η τρομακτική δυνατότητα διασποράς τους μέσω των ψηφιακών μέσων και ειδικότερα των ΜΚΔ. Τα ΜΚΔ χρησιμοποιούν αλγόριθμους για να αυτοματοποιήσουν αποφάσεις σχετικά με το ποιες ειδήσεις θα δούμε στις οθόνες μας, αλλά ο απώτερος στόχος τους είναι να κρατήσουν την προσοχή μας για όσο περισσότερο χρόνο είναι δυνατόν.

Το πρόβλημα λοιπόν είναι ότι οι αποφάσεις που παίρνουν οι αλγόριθμοι και αφορούν το ποιες ειδήσεις και πληροφορίες θα προωθηθούν στις οθόνες μας είναι δημοσιογραφικές αποφάσεις,. Ωστόσο δεν υπάρχει κάποιος δημοσιογράφος ή άλλος ανθρώπινος παράγοντας σε αυτές τις πλατφόρμες που μπορούμε να κρατήσουμε υπόλογο. Ο τρόπος με τον οποίο παίρνονται οι αποφάσεις παραμένει μυστικός, καθώς οι πλατφόρμες των ΜΚΔ αρνούνται να δημοσιοποιήσουν τους αλγόριθμους τους για λόγους πνευματικής ιδιοκτησίας, αφήνοντας μας το σκοτάδι για το πως παίρνουν τις αποφάσεις τους.

Photo by Manuel Geissinger from Pexels

Σαν ένα μαύρο κουτί βλέπουμε μόνο τις πληροφορίες που μπαίνουν μέσα και τα αποτελέσματα των αλγόριθμων, αλλά όχι τη διαδικασία που αποφασίζει ποιες πληροφορίες είναι σημαντικές και ποιοι πρέπει να τις δουν.Αυτή η διαδικασία είναι μια μορφή εξουσίας, αλλά φαινομενικά δεν υπάρχει κανένας που την ασκεί. Φαινομενικά, καθώς άνθρωποι προγραμματίζουν αυτούς τους αλγόριθμους με συγκεκριμένες εντολές, οι οποίες μπορούμε να φανταστούμε ότι έχουν σημαντικές προκαταλήψεις, δεδομένου ότι δεν γνωρίζουμε τις προγραμματιστικές επιταγές τους.

Ο Πασκουάλε (2015) στο βιβλίο του ‘The Black Box Society’ γράφει ότι σαν αποτέλεσμα αυτής της αυτοματοποίησης στις πλατφόρμες, η αυθεντία πλέον εκφράζεται αλγοριθμικά. Αποφάσεις που στο παρελθόν ήταν στα χέρια ανθρώπων πλέον παίρνονται αυτόματα. Το πρόγραμμα έχει κωδικοποιημένες χιλιάδες εντολές και κανονισμούς που υπολογίζονται σε κλάσματα δευτερολέπτου. Ωστόσο εάν δεν γνωρίζουμε πώς η Google ταξινομεί τα αποτελέσματα των ερευνών μας, πώς το Facebook αποφασίζει ποιες ειδήσεις θα δούμε, πώς το twitter αποφασίζει τις τάσεις, τι συμπεριλαμβάνεται και τι όχι στις οθόνες μας δεν έχουμε τρόπο να γνωρίζουμε εάν αυτές οι εταιρίες λειτουργούν καλή τη πίστει.

Και αυτό είναι το πραγματικό πρόβλημα με το φαινόμενο των fake news: Το ζήτημα των προκλήσεων αυτών των αλγόριθμων. Δεδομένου ότι δεν υπάρχει τρόπος να ξαναβάλουμε το ‘τζίνι’ πίσω στο λυχνάρι και να επιστρέψουμε σε μια εποχή που οι ειδήσεις μας φιλτράρονται από δημοσιογράφους πριν φτάσουν σε εμάς, πρέπει να αλλάξουμε τον τρόπο με τον οποίο αντιμετωπίζουμε τους ‘μεσάζοντες’ της πληροφορίας.

Πλατφόρμες όπως το Facebook και η Google έχουν πλέον μια δημοσιογραφική λειτουργία και κρίνουν τις πληροφορίες που διαβάζουμε, παρόλο που προσπαθούν πεισματικά να αρνηθούν αυτόν τον ρόλο τους (Buni, 2016). Καθώς δεν μπορούν να αναγκαστούν να μοιραστούν τους αλγόριθμους τους, μπορούν να αντιμετωπιστούν σαν παραγωγοί περιεχομένου, παρά σαν ουδέτερες πλατφόρμες και ως υπόλογες για τις αποφάσεις που παίρνουν καταπολεμώντας το ζήτημα της διασποράς των fake news στην ρίζα του.

 

ΒΙΒΛΙΟΓΡΑΦΙΑ

Buni, C. 2016, Nov 16, 2016, 4:25pm EST-last update, Facebook won’t call itself a media company.​ ​Is it time to reimagine journalism for the digital age?   [Homepage of The Verge], [Online]. Available: https://www.theverge.com/2016/11/16/13655102/facebook-journalism-ethics-media-company-algorithm-tax [2019, 27/06].

Deb, A., Donohue, S. & Glaisyer, T. 2017, «Is Social Media a Threat to Democracy?», Omidyar Group.https://www.omidyargroup.com/pov/2017/10/09/social_media_and_democracy, .

Directorate-General for Communication Networks, Content and Technology 2018, A multi-dimensional approach to disinformation Report of the independent High level Group on fake news and online disinformation, EUROPEAN COMMISSION, Belgium.

Mak, A. 2018, July 18, 2018 4:17 PM-last update, The Macedonian Fake News Racket Was Sketchier—Maybe a Lot Sketchier—Than We Initially Thought

[Homepage of Slate], [Online]. Available: https://slate.com/technology/2018/07/american-conservatives-had-a-hand-in-the-macedonian-fake-news-industry-report.html.

Pasquale, F. 2015, The Black Box Society : The Secret Algorithms That Control Money and Information, Harvard University Press, Cambridge.

Silverman, C., Feder, L., Cvetkovska, S. & Belford, A. 2018, July 18, 2018, at 12:24 p.m. ET-last update, Macedonia’s Pro-Trump Fake News Industry Had American Links, And Is Under Investigation For Possible Russia Ties   [Homepage of Buzzfeed News], [Online]. Available: https://www.buzzfeednews.com/article/craigsilverman/american-conservatives-fake-news-macedonia-paris-wade-libert [2019, 27/06].

Subramanian, S. 2017, «Welcome To Veles, Macedonia, Fake: News Factory To The World», Wired, vol. 25, no. 3, pp. 68.

Νταρζάνου, Α. 2018, 15 Απριλίου 2018 17:20-last update, «Οι παραποιημένες ειδήσεις έχουν στόχο την ηγεμονία στον δημόσιο λόγο»     [Homepage of Αυγή], [Online]. Available: http://www.avgi.gr/article/10838/8833952/-oi-parapoiemenes-eideseis-echoun-stocho-ten-egemonia-ston-demosio-logo-# [2019, 27/06].

Advertisements