Needle in a needle stack: How AI causes semiotic inflation which causes experiential devaluation
Notice bibliographique
Résumé
While most discussions of generative AI center on issues such as algorithmic bias and disinformation, we should also consider the quantitative sea change brought about by these technologies. Large language models can generate contents at a rate uncoupled from the human datasets they were trained on. Forecasts about such artificial outputs are difficult to make, but it seems clear that the word count and image/video bank of the internet will grow far beyond what humans can actually produce. Although this growth may seem benign, I worry that it results in a semiotic inflation capable of devaluing many human experiences. What connects quantitative you discover a diamond, you become rich. When you discover two diamonds, you become twice as rich. However, when you discover a stash of diamonds so large that diamonds outnumber gravel, you become poor and instantly make every diamond owner poorer too. Similarly, AI’s vast output risks devaluing experiences that are vital to human flourishing. Adopting a wide evolutionary vantage that gives weight to proven cultural adaptations, I suggest that some situations have natural sign-to-object ratios. Hence, being flooded with too many signs can go against the long-term interests of users. Critics of AI typically cling to features which computers allegedly cannot mimic. Semiotic inflation, however, enables us to accept the possibility of perfect AI counterfeits and still detect them en masse, via their negative experiential effects. Hardcoded features like Bitcoin’s 21 million token ceiling show that “[i]n contrast to the linguistic sign, the money sign cannot be reproduced in arbitrary quantity” (Bankov 2023: 117). Prompted by the rise of generative AI, we are about to realize that non-monetary signs also cannot be reproduced in arbitrary quantity. I thus draw parallels between healthy semiotic systems and the constraints governing viable monetary systems.
Récupéré en direct depuis OpenAlex et désinversé. Les résumés ne sont pas conservés dans cette base de données : les index inversés représentent 8,6 Go des 9,3 Go de texte de la base, et le serveur dispose de 13 Go libres.
Comment cette classification a été obtenuedéplier
Prédiction distillée sur la base complète
Imitation des enseignantsNi prévalence calibrée, ni vérité terrain. Validation humaine à venir. Apprise à partir de 10 348 étiquettes directes de Codex et de 10 348 étiquettes directes de Gemma. Le mode candidate est l'union des têtes enseignantes seuillées; le consensus est leur intersection. Ces sorties portent le statut machine_predicted_unvalidated et ne sont ni des étiquettes humaines ni des étiquettes directes de modèles de pointe.
Scores Codex et Gemma par catégorie
| Catégorie | Codex | Gemma |
|---|---|---|
| Métarecherche | 0,001 | 0,003 |
| Méta-épidémiologie (sens strict) | 0,000 | 0,000 |
| Méta-épidémiologie (sens large) | 0,001 | 0,000 |
| Bibliométrie | 0,001 | 0,004 |
| Études des sciences et des technologies | 0,001 | 0,000 |
| Communication savante | 0,002 | 0,004 |
| Science ouverte | 0,001 | 0,001 |
| Intégrité de la recherche | 0,001 | 0,001 |
| Charge utile insuffisante (le modèle a refusé de juger) | 0,000 | 0,000 |
Scores machine (provisoires)
Les deux têtes enseignantes du modèle étudiant, lues sur ce travail. Un score ordonne la base pour la relecture; il n'affirme jamais une catégorie, et le statut de validation accompagne chaque rangée tel quel.
Scores de référence d'un modèle non mature (critères de maturité non atteints, 7 itérations). Un score ordonne; il n'affirme jamais une catégorie.
score_only:v0-immature-baseline · tel quel depuis la passe de notation : score_only signifie que le nombre peut ordonner les travaux, et qu'aucune étiquette de catégorie n'en découleClassification
machine, non validéePrédiction automatique; un appel candidat d’une seule tête enseignante, pas un consensus.
Le détail, modèle par modèle et score par score, se trouve en fin de page sous « Comment cette classification a été obtenue ».