What’s Your Problem?
Summary & Insights
Can you truly “delete” yourself from the internet? For most of the last three decades, the prevailing wisdom was that once something is online, it stays there forever. However, Luke Aragoni, CEO of Lodi, is betting that this is no longer the case. By treating the internet as a searchable database and employing aggressive facial recognition, Lodi helps celebrities—and soon, ordinary people—track and automate the removal of unauthorized deepfakes, scams, and non-consensual intimate images (NCII) at a scale of tens of thousands of takedowns per day.
The conversation shifts from defense to offense when discussing the “licensing” of human likeness. Aragoni envisions a future where your face and voice are treated as an asset class. Instead of fighting every AI-generated image, some celebrities are open to a “clearinghouse” model where GenAI platforms pay a fee to let users generate a specific likeness, provided the content follows strict guardrails—such as banning depictions of drugs or specific political views. This turns the battle against deepfakes into a business opportunity, where the creator of the AI and the owner of the likeness both profit from the usage.
Beyond the business of biometrics, there is a deeper philosophical concern regarding the “averaging” of human culture. Because machine learning models are trained on the center of the bell curve, Aragoni worries that AI will trap us in a loop of “mid-tier” creativity, producing content that is polished but devoid of true innovation. The silver lining is that this creates a massive competitive advantage for “weirdos”—humans who operate in the tails of the distribution. In a world flooded with AI-generated averages, authentic human taste and the ability to push a tool beyond its mathematical boundaries become the most valuable skills in the economy.
Surprising Insights
- The Realism Paradox: As deepfakes become more realistic and high-quality, they actually become easier for facial recognition software to detect and flag.
- The Video Bottleneck: The primary reason similar services didn’t exist years ago wasn’t a lack of AI, but the sheer computational cost of processing every frame of a video—a hurdle Lodi solved via a closely guarded trade secret.
- The “Mid” Culture Trap: AI is mathematically predisposed to produce “average” results because it trains on the most common data points, potentially leading to a future of culturally stagnant, mediocre art.
- The Regulatory Moat: While regulation is often seen as a burden, it often acts as a “moat” for large incumbents by raising the barrier to entry for smaller startups.
Practical Takeaways
- Audit Your Digital Footprint: Be aware that your “right of publicity” generally protects you from others making money off your likeness, though non-commercial deepfakes are harder to fight without specific state laws (like the Elvis Act in Tennessee).
- Focus on “Taste” over Tooling: To remain competitive in an AI economy, move from being the “painter” (letting AI do the work) to the “architect” (using AI as a paintbrush to execute a unique, human-driven vision).
- Read the Fine Print on Biometrics: Be cautious about granting biometric releases to large platforms; look for services that store biometric data locally on your device rather than in a centralized corporate cloud.
- Embrace the “Tail”: In a world of automated averages, lean into your unique quirks and unconventional ideas, as “authentic performances” will command a premium as they become rarer.
🛍️ Products & Resources Mentioned
- 📚 BookThe American Way of Killing by Malcolm Gladwell — An investigation into America’s gun violence crisis mentioned by the narrator.View on Amazon →
Liệu bạn có thực sự có thể “xóa bỏ” bản thân khỏi internet? Trong phần lớn ba thập kỷ qua, quan niệm phổ biến là một khi thứ gì đó đã lên mạng, nó sẽ tồn tại mãi mãi. Tuy nhiên, Luke Aragoni, CEO của Lodi, đang đặt cược rằng điều này không còn đúng nữa. Bằng cách coi internet như một cơ sở dữ liệu có thể tìm kiếm và áp dụng công nghệ nhận dạng khuôn mặt quyết liệt, Lodi giúp các ngôi sao—và sắp tới là những người bình thường—theo dõi và tự động gỡ bỏ các nội dung deepfake trái phép, lừa đảo và hình ảnh thân mật không đồng thuận (NCII) với quy mô hàng chục nghìn lượt gỡ bỏ mỗi ngày.
Cuộc đối thoại chuyển từ thế phòng thủ sang tấn công khi bàn về việc “cấp phép” hình ảnh con người. Aragoni hình dung về một tương lai nơi khuôn mặt và giọng nói của bạn được coi là một loại tài sản. Thay vì chống lại mọi hình ảnh do AI tạo ra, một số người nổi tiếng sẵn lòng chấp nhận mô hình “trung tâm thanh toán”, nơi các nền tảng GenAI trả một khoản phí để cho phép người dùng tạo ra một hình ảnh cụ thể, miễn là nội dung đó tuân thủ các rào chắn nghiêm ngặt—chẳng hạn như cấm mô tả ma túy hoặc các quan điểm chính trị cụ thể. Điều này biến cuộc chiến chống deepfake thành một cơ hội kinh doanh, nơi cả nhà sáng tạo AI và chủ sở hữu hình ảnh đều có lợi từ việc sử dụng.
Ngoài khía cạnh kinh doanh sinh trắc học, còn có một nỗi lo ngại sâu sắc hơn về mặt triết học liên quan đến sự “trung bình hóa” văn hóa nhân loại. Vì các mô hình học máy được huấn luyện dựa trên tâm của đường cong hình chuông, Aragoni lo ngại rằng AI sẽ giam cầm chúng ta trong một vòng lặp của sự sáng tạo “tầm trung”, tạo ra những nội dung bóng bẩy nhưng thiếu đi sự đổi mới thực sự. Điểm sáng là điều này tạo ra lợi thế cạnh tranh khổng lồ cho những “kẻ kỳ dị”—những con người hoạt động ở hai đầu mút của phân phối. Trong một thế giới tràn ngập những giá trị trung bình do AI tạo ra, gu thẩm mỹ đích thực của con người và khả năng đẩy một công cụ vượt ra ngoài các giới hạn toán học sẽ trở thành những kỹ năng giá trị nhất trong nền kinh tế.
Thông tin bất ngờ
- Nghịch lý của sự chân thực: Khi deepfake càng trở nên chân thực và chất lượng cao hơn, chúng thực tế lại càng dễ bị phần mềm nhận dạng khuôn mặt phát hiện và đánh dấu hơn.
- Điểm nghẽn Video: Lý do chính khiến các dịch vụ tương tự không tồn tại nhiều năm trước không phải vì thiếu AI, mà là do chi phí tính toán khổng lồ để xử lý từng khung hình của một video—một trở ngại mà Lodi đã giải quyết thông qua một bí mật thương mại được bảo mật nghiêm ngặt.
- Bẫy văn hóa “Tầm thường”: AI về mặt toán học có xu hướng tạo ra các kết quả “trung bình” vì nó huấn luyện trên các điểm dữ liệu phổ biến nhất, điều này có khả năng dẫn đến một tương lai của nghệ thuật tầm thường và trì trệ về văn hóa.
- Hào ngăn pháp lý: Mặc dù các quy định pháp luật thường được coi là gánh nặng, nhưng chúng thường đóng vai trò như một “con hào” bảo vệ các doanh nghiệp lớn bằng cách nâng cao rào cản gia nhập cho các startup nhỏ hơn.
Bài học thực tế
- Kiểm tra dấu chân kỹ thuật số: Hãy lưu ý rằng “quyền công khai” (right of publicity) thường bảo vệ bạn khỏi việc người khác kiếm tiền từ hình ảnh của bạn, mặc dù các deepfake phi thương mại sẽ khó chống lại hơn nếu không có luật tiểu bang cụ thể (như Đạo luật Elvis ở Tennessee).
- Tập trung vào “Gu” thay vì “Công cụ”: Để duy trì năng lực cạnh tranh trong nền kinh tế AI, hãy chuyển từ vai trò “họa sĩ” (để AI làm hết mọi việc) sang vai trò “kiến trúc sư” (sử dụng AI như một cây cọ để thực thi một tầm nhìn độc đáo do con người dẫn dắt).
- Đọc kỹ điều khoản về sinh trắc học: Hãy thận trọng khi cấp quyền sử dụng sinh trắc học cho các nền tảng lớn; hãy tìm kiếm các dịch vụ lưu trữ dữ liệu sinh trắc học cục bộ trên thiết bị của bạn thay vì trên đám mây tập trung của doanh nghiệp.
- Tận dụng sự “Khác biệt”: Trong một thế giới của những giá trị trung bình tự động, hãy phát huy những nét độc đáo và ý tưởng phi truyền thống của bạn, vì những “màn trình diễn đích thực” sẽ càng trở nên đắt giá khi chúng trở nên hiếm hoi hơn.
你真的能將自己從網路中「刪除」嗎？在過去三十年的大部分時間裡，普遍的認知是：一旦內容上傳到網路，就永遠留在那裡。然而，Lodi 的執行長 Luke Aragoni 賭這不再是事實。透過將網路視為一個可搜尋的資料庫，並採用強力的面部識別技術，Lodi 協助名人——以及不久後的普通人——追蹤並自動刪除未經授權的深偽（deepfakes）、詐騙以及非自願親密影像（NCII），每天的刪除量高達數萬件。
當討論到人類肖像的「授權」時，對話從防禦轉向了進攻。Aragoni 構思了一個未來，在那裡你的面孔和聲音被視為一種資產類別。與其對抗每一張 AI 生成的圖像，部分名人對「清算所（clearinghouse）」模式持開放態度：生成式 AI 平台支付費用以允許使用者生成特定的肖像，前提是內容必須遵循嚴格的護欄——例如禁止描繪藥品或特定的政治觀點。這將對抗深偽的戰爭轉化為商業機會，讓 AI 的開發者與肖像的所有者都能從使用中獲益。
除了生物識別的商業運作外，還存在一個關於人類文化「平均化」的深層哲學擔憂。由於機器學習模型是在鐘形曲線的中心進行訓練，Aragoni 擔心 AI 會將我們困在「中階」創造力的循環中，產出精緻但缺乏真正創新內容。然而，其中的曙光在於，這為「怪人」——那些處於分佈尾端的人類——創造了巨大的競爭優勢。在一個充斥著 AI 生成之平均值的世界裡，真實的人類品味以及將工具推向數學邊界之外的能力，將成為經濟體系中最有價值的技能。
驚人洞察
- 真實感悖論： 隨著深偽內容變得越真實、品質越高，面部識別軟體實際上越容易地偵測並標記它們。
- 影片瓶頸： 幾年前沒有類似服務的主要原因並非缺乏 AI，而是處理影片每一幀的計算成本過高——而 Lodi 透過一項嚴格保密的商業機密解決了這個障礙。
- 「平庸」文化陷阱： AI 在數學上傾向於產出「平均」結果，因為它在最常見的數據點上進行訓練，這可能導致未來出現文化停滯、平庸的藝術。
- 監管護城河： 雖然監管通常被視為負擔，但它往往透過提高小型新創公司的進入門檻，為大型現有企業打造了一道「護城河」。
實務建議
- 審視你的數位足跡： 請意識到你的「公開權（right of publicity）」通常保護你免於他人利用你的肖像獲利，但若缺乏特定州法律（如田納西州的《艾爾維斯法案》），非商業性質的深偽內容較難對抗。
- 重視「品味」而非工具： 要在 AI 經濟中保持競爭力，請從「畫師」（讓 AI 執行工作）轉變為「建築師」（將 AI 作為畫筆，去執行獨特的、由人類驅動的願景）。
- 詳讀生物識別條款： 對於向大型平台授予生物識別授權要保持謹慎；尋找那些將生物識別數據儲存在你本地設備而非公司中央雲端服務的產品。
- 擁抱「尾端」： 在自動化平均值的世界中，請深耕你的獨特怪癖與非傳統想法，因為「真實的表現」將隨著其稀有度而具有更高的價值。
Peut-on vraiment s’« effacer » d’Internet ? Pendant la majeure partie des trois dernières décennies, l’opinion dominante voulait qu’une fois qu’un contenu est en ligne, il y reste pour toujours. Cependant, Luke Aragoni, PDG de Lodi, parie que ce n’est plus le cas. En traitant Internet comme une base de données interrogeable et en employant une reconnaissance faciale agressive, Lodi aide les célébrités — et bientôt, le grand public — à traquer et à automatiser la suppression des deepfakes non autorisés, des arnaques et des images intimes non consensuelles (IINC), à une échelle atteignant des dizaines de milliers de retraits par jour.
La conversation passe de la défense à l’offensive lorsqu’on aborde la question de la « licence » de l’image humaine. Aragoni envisage un avenir où votre visage et votre voix seraient traités comme une classe d’actifs. Au lieu de combattre chaque image générée par IA, certaines célébrités sont ouvertes à un modèle de « chambre de compensation » où les plateformes d’IA générative paieraient une redevance pour permettre aux utilisateurs de générer une apparence spécifique, à condition que le contenu respecte des garde-fous stricts — comme l’interdiction de représenter des drogues ou des opinions politiques précises. Cela transforme la lutte contre les deepfakes en une opportunité commerciale, où le créateur de l’IA et le détenteur de l’image profitent tous deux de l’utilisation.
Au-delà du business de la biométrie, il existe une préoccupation philosophique plus profonde concernant l’« uniformisation » de la culture humaine. Parce que les modèles d’apprentissage automatique sont entraînés sur le centre de la courbe de Gauss, Aragoni craint que l’IA ne nous piège dans une boucle de créativité « moyenne », produisant un contenu poli mais dénué de véritable innovation. Le point positif est que cela crée un avantage concurrentiel massif pour les « originaux » — les humains qui opèrent aux extrémités de la distribution. Dans un monde inondé de moyennes générées par IA, le goût humain authentique et la capacité de pousser un outil au-delà de ses limites mathématiques deviennent les compétences les plus précieuses de l’économie.
Perspectives surprenantes
- Le paradoxe du réalisme : À mesure que les deepfakes deviennent plus réalistes et de meilleure qualité, ils deviennent paradoxalement plus faciles à détecter et à signaler pour les logiciels de reconnaissance faciale.
- Le goulot d’étranglement de la vidéo : La raison principale pour laquelle des services similaires n’existaient pas il y a quelques années n’était pas l’absence d’IA, mais le coût computationnel colossal du traitement de chaque image d’une vidéo — un obstacle que Lodi a surmonté grâce à un secret commercial jalousement gardé.
- Le piège de la culture « moyenne » : L’IA est mathématiquement prédisposée à produire des résultats « moyens » car elle s’entraîne sur les points de données les plus communs, ce qui pourrait conduire à un avenir d’art médiocre et culturellement stagnant.
- Le fossé réglementaire : Alors que la réglementation est souvent perçue comme un fardeau, elle agit souvent comme un « fossé » protecteur pour les grands acteurs établis en augmentant la barrière à l’entrée pour les petites start-up.
Conseils pratiques
- Auditez votre empreinte numérique : Sachez que votre « droit à l’image » vous protège généralement contre ceux qui gagneraient de l’argent grâce à votre apparence, bien que les deepfakes non commerciaux soient plus difficiles à combattre sans lois étatiques spécifiques (comme l’Elvis Act au Tennessee).
- Privilégiez le « goût » plutôt que l’outil : Pour rester compétitif dans une économie de l’IA, passez du rôle de « peintre » (laissant l’IA faire le travail) à celui d’« architecte » (utilisant l’IA comme un pinceau pour exécuter une vision unique et humaine).
- Lisez les petites lignes sur la biométrie : Soyez prudent lorsque vous accordez des autorisations biométriques à de grandes plateformes ; recherchez des services qui stockent les données biométriques localement sur votre appareil plutôt que dans un cloud d’entreprise centralisé.
- Assumez votre singularité : Dans un monde de moyennes automatisées, misez sur vos particularités et vos idées non conventionnelles, car les « performances authentiques » prendront de la valeur à mesure qu’elles deviendront plus rares.
Kann man sich wirklich aus dem Internet „löschen“? In den meisten der letzten drei Jahrzehnte herrschte die Meinung vor, dass etwas, sobald es einmal online ist, dort für immer bleibt. Luke Aragoni, CEO von Lodi, wettet jedoch darauf, dass dies nicht mehr der Fall ist. Indem Lodi das Internet wie eine durchsuchbare Datenbank behandelt und aggressive Gesichtserkennung einsetzt, hilft das Unternehmen Prominenten – und bald auch gewöhnlichen Menschen –, nicht autorisierte Deepfakes, Betrugsversuche und nicht einvernehmliche intime Bilder (NCII) aufzuspüren und deren Entfernung in einem Umfang von zehntausenden Takedowns pro Tag zu automatisieren.
Das Gespräch verlagert sich von der Defensive zur Offensive, wenn es um die „Lizenzierung“ des menschlichen Erscheinungsbildes geht. Aragoni sieht eine Zukunft vor uns, in der das eigene Gesicht und die eigene Stimme als Anlageklasse (Asset Class) behandelt werden. Anstatt gegen jedes KI-generierte Bild zu kämpfen, sind einige Prominente offen für ein „Clearingstellen-Modell“, bei dem GenAI-Plattformen eine Gebühr zahlen, um Nutzern die Generierung eines bestimmten Erscheinungsbildes zu ermöglichen – vorausgesetzt, die Inhalte folgen strengen Leitplanken, wie etwa dem Verbot von Darstellungen von Drogen oder spezifischen politischen Ansichten. Dies verwandelt den Kampf gegen Deepfakes in eine Geschäftsmöglichkeit, von der sowohl der Schöpfer der KI als auch der Inhaber des Erscheinungsbildes profitieren.
Über das Geschäft mit der Biometrie hinaus gibt es eine tieferliegende philosophische Sorge hinsichtlich der „Durchschnittsbildung“ der menschlichen Kultur. Da Machine-Learning-Modelle auf der Mitte der Glockenkurve trainiert werden, befürchtet Aragoni, dass die KI uns in einer Schleife aus „mittelmäßiger“ Kreativität gefangen hält und Inhalte produziert, die zwar poliert, aber jeder echten Innovation beraubt sind. Der Lichtblick ist, dass dies einen massiven Wettbewerbsvorteil für die „Außenseiter“ schafft – Menschen, die an den Rändern der Verteilung agieren. In einer Welt, die mit KI-generierten Durchschnittswerten überflutet wird, werden authentischer menschlicher Geschmack und die Fähigkeit, ein Werkzeug über seine mathematischen Grenzen hinaus zu treiben, zu den wertvollsten Fähigkeiten in der Wirtschaft.
Überraschende Erkenntnisse
- Das Realismus-Paradoxon: Je realistischer und hochwertiger Deepfakes werden, desto einfacher wird es für Gesichtserkennungssoftware, sie zu erkennen und zu markieren.
- Der Video-Flaschenhals: Der Hauptgrund, warum ähnliche Dienste vor Jahren nicht existierten, war nicht ein Mangel an KI, sondern die schiere Rechenleistung, die für die Verarbeitung jedes einzelnen Frames eines Videos erforderlich war – ein Hindernis, das Lodi durch ein streng gehütetes Geschäftsgeheimnis gelöst hat.
- Die „Mid“-Kulturfalle: KI ist mathematisch darauf programmiert, „durchschnittliche“ Ergebnisse zu liefern, da sie mit den häufigsten Datenpunkten trainiert wird, was potenziell zu einer Zukunft kulturell stagnierender, mittelmäßiger Kunst führen könnte.
- Der regulatorische Burggraben: Während Regulierung oft als Last empfunden wird, fungiert sie häufig als „Burggraben“ für große etablierte Unternehmen, indem sie die Eintrittsbarrieren für kleinere Start-ups erhöht.
Praktische Erkenntnisse
- Prüfen Sie Ihren digitalen Fußabdruck: Seien Sie sich bewusst, dass Ihr „Recht am eigenen Bild“ Sie im Allgemeinen davor schützt, dass andere mit Ihrem Erscheinungsbild Geld verdienen, obwohl nicht-kommerzielle Deepfakes ohne spezifische Landesgesetze (wie den Elvis Act in Tennessee) schwerer zu bekämpfen sind.
- Fokus auf „Geschmack“ statt auf Werkzeuge: Um in einer KI-Wirtschaft wettbewerbsfähig zu bleiben, entwickeln Sie sich vom „Maler“ (der die KI die Arbeit machen lässt) zum „Architekten“ (der die KI als Pinsel nutzt, um eine einzigartige, menschlich gesteuerte Vision umzusetzen).
- Das Kleingedruckte bei Biometrie lesen: Seien Sie vorsichtig bei der Erteilung biometrischer Freigaben an große Plattformen; suchen Sie nach Diensten, die biometrische Daten lokal auf Ihrem Gerät und nicht in einer zentralisierten Unternehmens-Cloud speichern.
- Nutzen Sie den „Randbereich“: In einer Welt automatisierter Durchschnittswerte sollten Sie auf Ihre einzigartigen Eigenheiten und unkonventionellen Ideen setzen, da „authentische Leistungen“ an Wert gewinnen werden, je seltener sie werden.
We’ve all heard that nothing ever gets deleted from the internet. Luke Arrigoni says that just isn’t true. His company deletes thousands of deepfakes every day.
Luke is the founder and CEO of Loti, and his problem is this: How do you turn the Internet into a place where people have more control over their name, image and likeness?
Tens of thousands of famous people pay Loti to scour the internet and take down deepfakes and unapproved endorsements. But in Luke’s telling, this is just the beginning. The company will soon allow celebrities to license their likeness for use in AI videos, and it also plans to start offering its services to ordinary people.
In this episode, Luke explains:
- The harm that online deepfakes and impersonations can cause
- How Loti automates tens of thousands of takedowns per day
- Why the law may soon make it easier to fight deepfakes
- Why celebrities are beginning to license their likenesses to AI platforms
- AI’s role in the future of human creativity
Connect with us:
- Follow Jacob Goldstein on LinkedIn, X and Instagram
- Email us at problem@pushkin.fm
- Follow Pushkin on Instagram, LinkedIn or X
- Listen to Jacob’s other show, Business History
- To listen to the show ad free, sign up for Pushkin+
See omnystudio.com/listener for privacy information.
-
From Here We Go Again With Kal Penn: Will Technology Replace Us? with Jacob Goldstein
Hello What’s Your Problem? listeners! We’d like to introduce you to a show we think you might like. Here We Go Again is a brand-new podcast, where actor, author, comedian, and former White House staffer…
-
Introducing Rapid Response: Logitech’s CEO treats AI like a board member
Today, we’re sharing an episode of the Rapid Response podcast. Rapid Response features candid conversations with today’s top business leaders navigating real-time challenges. In this episode, Logitech may be known for keyboards, webcams, and gaming…