a16z Podcast
Summary & Insights
wak opens by describing October not as a difficult month but as “Black October”—a black-swan event in which an unprecedented volume and severity of security incidents collided all at once. He points to a PHP vulnerability that he characterizes as potentially the most severe ever discovered, and he ties the surge to a new class of AI attackers capable of moving from an initial opening to full compromise in roughly twenty minutes. According to Luttwak, this is no longer a theoretical risk: models have become good enough to find and exploit complex vulnerabilities, and open-source models have caught up to frontier capabilities faster than anyone expected, turning “every day is zero day” from a provocative tweet into an operational reality.
The central problem, as Luttwak explains to a16z, is the collapsing asymmetry between how fast attackers can weaponize a flaw and how slowly the software ecosystem can patch it. In the PHP case, about half of Wiz customers applied patches within two or three days, yet PHP runs on roughly seventy percent of the internet, meaning full remediation will take years. Luttwak notes that exploit information often leaks before a CVE is even published, and patches for Linux kernels can take weeks or months to reach downstream distributions. a16z adds that time to patch has actually worsened over the last two decades, leaving defenders structurally unprepared for exploits that can now be authored in minutes.
Luttwak’s answer is to abandon static, point-in-time security in favor of continuous, dynamic validation. He describes Wiz’s red and blue agents working in concert: the blue agent runs a tiered pipeline that begins with deterministic checks, passes events through cheaper models, and invokes expensive frontier models only when earlier stages raise a credible signal, while the red agent continuously attacks the customer’s own environment from the outside using the latest AI capabilities. Internally, Wiz uses an “atlas” harness to test multiple models—OpenAI, Google, Carbon—because each has distinct strengths, costs, and speeds. For founders, this shifts the engineering challenge from buying more scanners to designing intelligent, cost-effective model pipelines that prioritize unauthenticated internet exposure over routine code scanning.
The conversation then turns to organizational reality. Luttwak tells a16z that throwing more budget at security will not solve the problem; what matters is architecture and focus. Startups building today should assume nation-state capability, anticipate container escapes and Linux kernel zero-days, and bake network, process, and image isolation into their design from day one. He is equally blunt about existing security teams: most of their time is spent on compliance reporting and configuration checks rather than actual security work. He urges them to stop doing most of what they do and instead concentrate on finding critical risk, applying detections, and preparing response readiness—especially because AI keys and startup credentials have become high-value targets that make early-stage companies as attractive to attackers as large enterprises.
Looking forward, both speakers see a return to the breach-dense security climate of the 1990s and early 2000s, potentially including internet worms that infect systems faster than patches can be applied—a dynamic Luttwak compares to the Windows XP era. He revisits an earlier prediction of a “Y2K moment” within twelve to eighteen months, suggesting Black October may be the opening wave, and observes that cyberattacks are now one of the few domains where AI is already better than humans. The companies that survive, he argues, will be those redesigning internet-exposed infrastructure from the ground up and removing vulnerable systems from the network quickly rather than relying on legacy defenses.
Finally, Luttwak extends the argument to public infrastructure, warning that legacy software and internet-connected devices from refrigerators to traffic systems are all at risk. Wiz’s “Scan for Goods” initiative attempts to close that gap by offering free scanning to public services and nonprofits, not to resolve every issue but to push organizations toward continuous external scanning and self-attack. In his view, the only viable path forward is accepting that vulnerabilities will exist, automating investigation and response, and constantly attacking your own environment before adversaries do.
Major Discussion Themes
Black October and the AI-Driven Vulnerability Explosion
Luttwak frames the current moment as “Black October,” a black-swan event marked by an unusual concentration of severe security incidents within a single month. He identifies a PHP vulnerability as likely the most severe ever found and ties the spike to AI attackers who now combine speed, expertise, and scale in ways previously unseen. These attackers are not limited to traditional targets; Luttwak notes they are going after companies, startups, and even internet-connected refrigerators. He references Elon Musk’s “every day is zero day” observation to underscore that AI models are now capable of finding and exploiting complex vulnerabilities, and that open-source models have caught up to frontier capabilities far faster than anticipated—removing the buffer defenders once assumed they had.
The Offense-Defense Timing Asymmetry
The core imbalance driving the crisis is temporal. Luttwak explains that the time required to develop a working exploit has collapsed from months or weeks to roughly twenty minutes, while patching timelines have not improved. In fact, a16z notes that time to patch has worsened over the last twenty years. Exploit details frequently leak before a CVE is published, and even when patches exist, they take weeks or months to propagate through Linux distributions. Wiz’s data on the PHP vulnerability showed rapid initial adoption—about fifty percent of customers patched within days—but because PHP underpins approximately seventy percent of the internet, complete remediation will take years. The industry, Luttwak argues, is simply not ready for machine-speed exploitation against slow, human-speed patching.
Continuous Validation and the Red Agent/Blue Agent Model
Luttwak proposes replacing static defenses with continuous, dynamic validation. Wiz’s blue agent investigates attacks using a cost-tiered pipeline: deterministic checks first, then inexpensive models for broad detection, and expensive frontier models only when earlier stages signal a credible threat. Simultaneously, the red agent continuously attacks the customer’s environment from the outside, simulating adversarial behavior with the latest AI models. Luttwak’s analogy is a house where the key under the mat seemed secure until attackers gained superpowers; whatever was safe last week may not be safe today. The only way to stay ahead is to attack yourself continuously so that you find and fix exposures before adversaries do. This extends to automated forensics, root-cause analysis, and eventually automated response—steps Luttwak acknowledges are scary but increasingly unavoidable.
Multi-Model Orchestration as Core Engineering
Rather than relying on a single frontier model, Luttwak argues that effective AI security requires orchestrating multiple models and versions, each with different capabilities, speeds, and costs. Wiz’s internal vulnerability team uses an “atlas” harness to test OpenAI, Google, Carbon, and other models because no single model dominates every task. For founders building AI security services, the economic key is not raw model power but intelligent pipeline design: using cheap models for high-volume events and reserving expensive models for final verification. a16z and Luttwak agree that this represents a fundamental engineering shift—security companies must become adept at model selection, routing, and cost management, not just vulnerability detection.
Security Architecture Over Security Spending
Luttwak is skeptical that larger security budgets alone will fix the problem. He tells a16z that most organizations are not ready for attackers with the speed and expertise of the world’s best hackers, and no single security tool can make everything fine. Instead, he urges companies to design for compromise: assume Linux kernel zero-days, container escapes, and unauthenticated internet exposure, then enforce network, process, and image isolation accordingly. He also contends that most of what security teams currently do is not security at all—compliance reporting and configuration checking consume resources that should go toward finding critical risk, applying detections, and ensuring response readiness. For startups, this means building automated patching, investigation, and infrastructure from day one; for incumbents, it means accepting that legacy constraints make full automation difficult and prioritizing accordingly.
The Return of the Worm and Public-Infrastructure Risk
Both speakers forecast a return to the breach-dense environment of the 1990s and early 2000s, potentially including internet worms that spread faster than systems can be patched—a dynamic reminiscent of the Windows XP era, where a worm could infect a machine before Windows Update finished. Luttwak revisits his prediction of a “Y2K moment” and notes that cyberattacks are now a rare domain where AI already outperforms humans at complex tasks such as zero-day kernel exploitation. He expresses particular concern for public infrastructure and legacy devices, from refrigerators to traffic systems, which is why Wiz launched Scan for Goods to help nonprofits and public services identify exposures. The goal is not to solve every problem, but to push organizations toward continuous external scanning and red-team validation before attackers exploit the same weaknesses.
Surprising Insights
- Open-source AI models have caught up to frontier capabilities in months, democratizing exploit creation far faster than the security industry anticipated.
- Luttwak contends that most of what security teams do is not actually security; compliance reporting and configuration checks consume the majority of their time.
- Scanning unauthenticated internet exposure is more urgent than scanning application code, because attackers typically enter through exposed surfaces before ever touching code.
- Exploit development time has collapsed from months to roughly twenty minutes, while time to patch has actually worsened over the last two decades.
- An attacker can compromise a startup and exfiltrate all secrets and AI keys within about twenty minutes, making early-stage companies prime targets.
- Automated response is frightening but necessary; human-staffed SOCs cannot match the speed of AI-driven intrusions.
- The industry may see a return of internet worms similar to the Windows XP era, where systems are compromised before patches finish deploying.
- Cyberattack is one of the rare domains where AI is already better than humans at complex tasks, including zero-day kernel exploitation.
- Legacy enterprises cannot realistically automate patching, giving cloud-native startups a structural advantage if they build automation into their architecture from day one.
- Using a single expensive AI model for every security event is economically unsustainable; effective defense requires tiered model pipelines that match model cost to task complexity.
Practical Takeaways
- Run continuous external exposure scans before investing heavily in code scanning; unauthenticated surfaces are the most urgent and likely initial attack vector.
- Build a tiered AI pipeline: deterministic checks first, inexpensive models for broad detection, and expensive frontier models only for high-confidence escalation.
- If founding a new company, design for automated patching and agentic CI/CD from day one; retrofitting legacy environments is far harder and often unrealistic.
- Treat AI keys and startup credentials as crown jewels—limit their scope, rotate them frequently, and assume they are actively targeted by attackers.
- Reallocate security team effort away from compliance reporting toward red teaming, critical-risk identification, and response readiness.
- Design architecture assuming compromise: enforce network, process, and image isolation, and expect container escapes and Linux kernel zero-days.
- Establish response readiness to detect and eject attackers in minutes, not days, because AI-driven intrusions unfold on a twenty-minute timeline.
- Audit your existing vendor stack and replace legacy tools with AI-native technologies rather than simply adding more licenses during a crisis.
- Public agencies and nonprofits should leverage community scanning programs like Scan for Goods to identify critical exposures before attackers do.
- Accept that perfect patching is impossible; prioritize reducing blast radius through isolation and continuous self-attack using red agents.
Wak bắt đầu bằng cách mô tả tháng 10 không phải là một tháng khó khăn, mà là “Tháng 10 đen tối” – một sự kiện “con thiên nga đen” trong đó một lượng lớn và mức độ nghiêm trọng của các sự cố bảo mật đã chồng chéo lên nhau cùng một lúc. Ông chỉ ra một lỗ hổng bảo mật PHP mà ông gọi là có thể là lỗ hổng nghiêm trọng nhất từng được phát hiện, và ông liên kết sự gia tăng này với một lớp kẻ tấn công AI mới có khả năng chuyển từ một điểm xâm nhập ban đầu đến việc chiếm quyền điều khiển hoàn toàn trong khoảng hai mươi phút. Theo Luttwak, đây không còn là một rủi ro lý thuyết: các mô hình đã đủ tốt để tìm và khai thác các lỗ hổng phức tạp, và các mô hình nguồn mở đã đạt được trình độ ngang bằng với các công nghệ tiên tiến nhanh hơn dự kiến, biến “mỗi ngày là một ngày zero” từ một dòng tweet gây tranh cãi thành một thực tế hoạt động.
Vấn đề cốt lõi, như Luttwak giải thích với a16z, là sự mất cân bằng giữa tốc độ mà kẻ tấn công có thể khai thác một lỗ hổng và tốc độ mà hệ sinh thái phần mềm có thể vá lỗi. Trong trường hợp PHP, khoảng một nửa số khách hàng của Wiz đã áp dụng các bản vá trong vòng hai hoặc ba ngày, nhưng PHP chạy trên khoảng bảy mươi phần trăm internet, nghĩa là việc khắc phục hoàn toàn sẽ mất nhiều năm. Luttwak lưu ý rằng thông tin khai thác thường bị rò rỉ trước khi một CVE (Thông báo về lỗ hổng bảo mật) được công bố, và các bản vá cho kernel Linux có thể mất vài tuần hoặc vài tháng để đến được các bản phân phối downstream. a16z bổ sung rằng thời gian để vá lỗi thực tế đã trở nên tồi tệ hơn trong hai thập kỷ qua, khiến các nhà phòng thủ không được chuẩn bị đầy đủ cho các cuộc tấn công có thể được tạo ra chỉ trong vài phút.
Câu trả lời của Luttwak là loại bỏ hệ thống bảo mật tĩnh, chỉ hoạt động tại một thời điểm cụ thể, và thay vào đó, áp dụng phương pháp xác minh liên tục và linh hoạt. Ông mô tả cách các tác nhân “xanh” và “đỏ” của Wiz phối hợp hoạt động: tác nhân “xanh” chạy một quy trình nhiều tầng, bắt đầu bằng các kiểm tra xác định, chuyển các sự kiện qua các mô hình chi phí thấp, và chỉ kích hoạt các mô hình tiên tiến đắt tiền khi các giai đoạn trước đó phát hiện ra một dấu hiệu đáng tin cậy. Trong khi đó, tác nhân “đỏ” liên tục tấn công môi trường của khách hàng từ bên ngoài, sử dụng các công nghệ AI mới nhất. Bên trong, Wiz sử dụng một hệ thống “atlas” để thử nghiệm nhiều mô hình khác nhau – OpenAI, Google, Carbon – vì mỗi mô hình có những ưu điểm, chi phí và tốc độ riêng. Đối với các nhà sáng lập, điều này thay đổi thách thức kỹ thuật từ việc mua nhiều công cụ quét hơn sang thiết kế các quy trình mô hình thông minh và tiết kiệm chi phí, ưu tiên việc phát hiện các lỗ hổng trên internet chưa được xác thực hơn là quét mã thông thường.
Cuộc trò chuyện sau đó chuyển sang thực tế về tổ chức. Luttwak nói với a16z rằng việc tăng ngân sách cho bảo mật sẽ không giải quyết được vấn đề; điều quan trọng là kiến trúc và sự tập trung. Các công ty khởi nghiệp đang phát triển hiện tại nên giả định khả năng của các quốc gia, dự đoán các trường hợp container bị xâm phạm và các lỗ hổng zero-day trong kernel Linux, và tích hợp các biện pháp cô lập mạng, quy trình và hình ảnh vào thiết kế của họ ngay từ đầu. Ông cũng thẳng thắn về các đội bảo mật hiện tại: phần lớn thời gian của họ dành cho việc báo cáo tuân thủ và kiểm tra cấu hình, thay vì thực sự làm công việc bảo mật. Ông khuyến cáo họ nên ngừng thực hiện phần lớn những gì họ đang làm và thay vào đó, tập trung vào việc xác định các rủi ro quan trọng, áp dụng các biện pháp phát hiện và chuẩn bị sẵn sàng ứng phó – đặc biệt vì các khóa AI và thông tin đăng nhập của các công ty khởi nghiệp đã trở thành mục tiêu có giá trị cao, khiến các công ty giai đoạn đầu trở nên hấp dẫn đối với các tin tặc như các tập đoàn lớn.
Trong tương lai, cả hai diễn giả đều dự đoán sự trở lại của môi trường an ninh với nhiều lỗ hổng, tương tự như những năm 1990 và đầu những năm 2000, có thể bao gồm các loại sâu máy tính (worm) lây nhiễm vào hệ thống nhanh hơn nhiều so với tốc độ vá lỗi – một hiện tượng mà Luttwak so sánh với thời kỳ Windows XP. Ông nhắc lại dự đoán trước đây về một “khoảnh khắc Y2K” trong vòng từ mười hai đến mười tám tháng, gợi ý rằng “Tháng Mười Đen” có thể là đợt tấn công đầu tiên, và nhận định rằng các cuộc tấn công mạng hiện tại là một trong số ít lĩnh vực mà trí tuệ nhân tạo (AI) đã vượt trội hơn con người. Ông lập luận rằng các công ty còn tồn tại sẽ là những công ty thiết kế lại cơ sở hạ tầng kết nối internet từ đầu và loại bỏ nhanh chóng các hệ thống dễ bị tấn công khỏi mạng, thay vì chỉ dựa vào các biện pháp bảo vệ truyền thống.
Cuối cùng, Luttwak mở rộng lập luận này ra các hệ thống công cộng, cảnh báo rằng các phần mềm cũ và các thiết bị kết nối internet, từ tủ lạnh đến hệ thống giao thông, đều có nguy cơ bị tấn công. Sáng kiến “Scan for Goods” của Wiz nhằm lấp đầy khoảng trống này bằng cách cung cấp dịch vụ quét miễn phí cho các dịch vụ công cộng và các tổ chức phi lợi nhuận, không phải để giải quyết mọi vấn đề, mà để thúc đẩy các tổ chức thực hiện quét bên ngoài liên tục và tự tấn công. Theo quan điểm của ông, con đường khả thi duy nhất là chấp nhận rằng các lỗ hổng sẽ tồn tại, tự động hóa quá trình điều tra và ứng phó, và liên tục tấn công chính môi trường của mình trước khi đối phương làm điều đó.
Các chủ đề thảo luận chính:
“Tháng Mười Đen” và sự bùng nổ các lỗ hổng do trí tuệ nhân tạo.
Luttwak mô tả thời điểm hiện tại là “Tháng Mười Đen”, một sự kiện “con thiên nga” đặc trưng bởi sự tập trung bất thường của các vụ việc an ninh nghiêm trọng trong một tháng. Ông chỉ ra một lỗ hổng bảo mật PHP có thể là nghiêm trọng nhất từng được phát hiện và liên kết sự gia tăng này với các cuộc tấn công bằng trí tuệ nhân tạo (AI), những cuộc tấn công giờ đây kết hợp tốc độ, chuyên môn và quy mô theo những cách chưa từng thấy trước đây. Những kẻ tấn công này không chỉ nhắm mục tiêu đến các đối tượng truyền thống; Luttwak lưu ý rằng họ đang tấn công các công ty, các công ty khởi nghiệp và thậm chí cả tủ lạnh kết nối internet. Ông trích dẫn nhận xét của Elon Musk “mỗi ngày là một ngày dễ bị tấn công” để nhấn mạnh rằng các mô hình AI hiện có khả năng tìm kiếm và khai thác các lỗ hổng phức tạp, và rằng các mô hình nguồn mở đã đạt được trình độ ngang bằng với các mô hình tiên tiến nhanh hơn dự kiến, loại bỏ “lớp đệm” mà các nhà phòng thủ từng cho là họ có.
Sự Chênh Lệch Thời Gian Giữa Tấn Công và Phòng Thủ
Sự mất cân bằng cốt lõi gây ra cuộc khủng hoảng này nằm ở mặt thời gian. Luttwak giải thích rằng thời gian cần thiết để phát triển một công cụ khai thác (exploit) hiệu quả đã giảm từ vài tháng hoặc vài tuần xuống còn khoảng hai mươi phút, trong khi thời gian vá lỗi (patching) vẫn không cải thiện. Trên thực tế, a16z chỉ ra rằng thời gian vá lỗi đã trở nên tồi tệ hơn trong hai mươi năm qua. Thông tin chi tiết về các công cụ khai thác thường bị rò rỉ trước khi một CVE (Common Vulnerabilities and Exposures – Các lỗ hổng phổ biến) được công bố, và ngay cả khi các bản vá lỗi đã có, chúng vẫn cần vài tuần hoặc vài tháng để được triển khai trên các bản phân phối Linux. Dữ liệu của Wiz về lỗ hổng PHP cho thấy tỷ lệ áp dụng ban đầu rất nhanh – khoảng năm mươi phần trăm khách hàng đã vá lỗi trong vòng vài ngày – nhưng vì PHP là nền tảng cho khoảng bảy mươi phần trăm internet, việc khắc phục hoàn toàn sẽ mất nhiều năm. Luttwak lập luận rằng ngành công nghiệp đơn giản là chưa sẵn sàng cho việc khai thác nhanh chóng bằng máy móc, trong khi việc vá lỗi vẫn diễn ra với tốc độ của con người.
Kiểm Tra Liên Tục và Mô Hình “Red Agent/Blue Agent”
Luttwak đề xuất thay thế các biện pháp phòng thủ tĩnh bằng một hệ thống xác minh liên tục và linh hoạt. “Blue agent” của Wiz điều tra các cuộc tấn công bằng một quy trình phân tầng chi phí: trước tiên là các kiểm tra xác định, sau đó là các mô hình giá rẻ để phát hiện rộng rãi, và chỉ sử dụng các mô hình tiên tiến đắt tiền khi các giai đoạn trước đó báo hiệu một mối đe dọa đáng tin cậy. Đồng thời, “red agent” liên tục tấn công môi trường của khách hàng từ bên ngoài, mô phỏng hành vi thù địch bằng các mô hình AI mới nhất. Luttwak ví dụ như một ngôi nhà, nơi chìa khóa dưới tấm thảm dường như an toàn cho đến khi những kẻ tấn công có được “siêu năng lực”; những gì an toàn vào tuần trước có thể không còn an toàn vào ngày hôm nay. Cách duy nhất để đi trước là tấn công chính mình liên tục, để tìm và khắc phục các lỗ hổng trước khi đối thủ làm được điều đó. Điều này mở rộng ra các lĩnh vực như phân tích pháp y tự động, phân tích nguyên nhân gốc rễ và cuối cùng là ứng phó tự động – những bước mà Luttwak thừa nhận là đáng sợ nhưng ngày càng không thể tránh khỏi.
Điều phối đa mô hình như một trụ cột kỹ thuật cốt lõi
Thay vì chỉ dựa vào một mô hình tiên tiến duy nhất, Luttwak lập luận rằng bảo mật AI hiệu quả đòi hỏi phải điều phối nhiều mô hình và phiên bản khác nhau, mỗi mô hình có các khả năng, tốc độ và chi phí khác nhau. Nhóm chuyên gia bảo mật nội bộ của Wiz sử dụng một “hệ thống” để kiểm tra các mô hình của OpenAI, Google, Carbon và các công ty khác, vì không có mô hình nào vượt trội trong mọi nhiệm vụ. Đối với các nhà sáng lập xây dựng dịch vụ bảo mật AI, yếu tố kinh tế quan trọng không phải là sức mạnh thô của mô hình mà là thiết kế quy trình thông minh: sử dụng các mô hình rẻ tiền cho các sự kiện có khối lượng lớn và dành các mô hình đắt tiền cho việc xác minh cuối cùng. a16z và Luttwak đồng ý rằng đây là một sự thay đổi cơ bản trong kỹ thuật – các công ty bảo mật phải thành thạo trong việc lựa chọn, định tuyến và quản lý chi phí mô hình, chứ không chỉ phát hiện lỗ hổng.
Kiến trúc bảo mật hơn chi tiêu cho bảo mật.
Luttwak bày tỏ sự hoài nghi rằng việc tăng ngân sách an ninh đơn thuần sẽ không giải quyết được vấn đề. Ông nói với a16z rằng hầu hết các tổ chức chưa sẵn sàng đối phó với các cuộc tấn công từ những kẻ tấn công có tốc độ và trình độ chuyên môn cao như những hacker hàng đầu thế giới, và không có một công cụ bảo mật nào có thể giải quyết mọi vấn đề. Thay vào đó, ông khuyến nghị các công ty nên thiết kế hệ thống để đối phó với các tình huống bị xâm phạm: giả định các lỗ hổng bảo mật nghiêm trọng trong kernel Linux, các cuộc tấn công vượt khỏi container, và khả năng truy cập trái phép từ internet, sau đó áp dụng các biện pháp cách ly mạng, quy trình và hình ảnh tương ứng. Ông cũng cho rằng phần lớn những gì các đội bảo mật đang làm hiện tại không phải là bảo mật thực sự – việc báo cáo tuân thủ và kiểm tra cấu hình đang tiêu tốn nguồn lực mà lẽ ra nên được sử dụng để xác định các rủi ro quan trọng, triển khai các biện pháp phát hiện và đảm bảo khả năng ứng phó. Đối với các công ty khởi nghiệp, điều này có nghĩa là xây dựng các hệ thống vá lỗi, điều tra và cơ sở hạ tầng tự động ngay từ đầu; đối với các công ty lớn, điều này có nghĩa là chấp nhận rằng các hạn chế từ hệ thống cũ khiến việc tự động hóa hoàn toàn trở nên khó khăn và ưu tiên các giải pháp phù hợp.
Sự Trở Lại Của Virus Máy Tính và Rủi Ro Đối Với Cơ Sở Hạ Tầng Công Cộng.
Cả hai chuyên gia đều dự đoán sự trở lại của môi trường tấn công mạng với mật độ cao, tương tự như những năm 1990 và đầu những năm 2000, có thể bao gồm cả các loại sâu máy tính (worm) lây lan nhanh hơn tốc độ vá lỗi của hệ thống – một tình huống gợi nhớ đến thời kỳ Windows XP, khi một con sâu có thể lây nhiễm vào máy tính trước khi Windows Update hoàn tất. Luttwak tái khẳng định dự đoán của mình về một “sự kiện tương tự như Y2K” và lưu ý rằng các cuộc tấn công mạng hiện là một lĩnh vực hiếm hoi nơi trí tuệ nhân tạo (AI) đã vượt trội hơn con người trong các nhiệm vụ phức tạp như khai thác lỗ hổng bảo mật kernel (zero-day). Ông đặc biệt lo ngại về cơ sở hạ tầng công cộng và các thiết bị cũ, từ tủ lạnh đến hệ thống giao thông, đó là lý do tại sao Wiz đã ra mắt Scan for Goods để giúp các tổ chức phi lợi nhuận và các dịch vụ công cộng xác định các điểm yếu. Mục tiêu không phải là giải quyết mọi vấn đề, mà là thúc đẩy các tổ chức thực hiện quét bảo mật bên ngoài thường xuyên và kiểm tra bảo mật bằng đội phản ứng (red team) trước khi kẻ tấn công khai thác những điểm yếu tương tự.
Những hiểu biết bất ngờ:
- Các mô hình AI mã nguồn mở đã đạt được trình độ tương đương với các công nghệ tiên tiến chỉ trong vài tháng, giúp việc tạo ra các công cụ khai thác trở nên dễ dàng hơn rất nhanh, vượt quá dự đoán của ngành công nghiệp bảo mật.
- Luttwak cho rằng phần lớn công việc mà các đội bảo mật thực hiện không thực sự liên quan đến bảo mật; việc báo cáo tuân thủ và kiểm tra cấu hình chiếm phần lớn thời gian của họ.
- Việc quét các điểm yếu trên internet mà không cần xác thực quan trọng hơn việc quét mã ứng dụng, vì kẻ tấn công thường xâm nhập thông qua các bề mặt bị lộ trước khi tiếp cận mã nguồn.
- Thời gian phát triển công cụ khai thác đã giảm từ vài tháng xuống còn khoảng 20 phút, trong khi thời gian vá lỗi thực tế đã trở nên tồi tệ hơn trong hai thập kỷ qua.
- Một kẻ tấn công có thể xâm nhập vào một công ty khởi nghiệp và đánh cắp tất cả các bí mật và khóa AI chỉ trong khoảng 20 phút, khiến các công ty giai đoạn đầu trở thành mục tiêu dễ bị tấn công.
- Phản hồi tự động có thể gây lo lắng, nhưng điều đó là cần thiết; các trung tâm an ninh mạng do con người vận hành không thể sánh kịp tốc độ của các cuộc tấn công do trí tuệ nhân tạo (AI) điều khiển.
- Ngành công nghiệp có thể chứng kiến sự xuất hiện trở lại của các loại sâu máy tính (worm) tương tự như thời kỳ Windows XP, khi các hệ thống bị xâm phạm trước khi các bản vá lỗi được triển khai.
- Tấn công mạng là một trong số ít lĩnh vực mà AI hiện tại đã vượt trội hơn con người trong các nhiệm vụ phức tạp, bao gồm cả việc khai thác lỗ hổng bảo mật kernel (zero-day).
- Các doanh nghiệp truyền thống không thể thực hiện việc vá lỗi một cách tự động, điều này mang lại lợi thế cơ bản cho các công ty khởi nghiệp tập trung vào điện toán đám mây nếu họ tích hợp tự động hóa vào kiến trúc của mình ngay từ đầu.
- Việc sử dụng một mô hình AI đắt tiền duy nhất cho mọi sự kiện bảo mật là không bền vững về mặt kinh tế; phòng thủ hiệu quả đòi hỏi các hệ thống mô hình phân cấp, phù hợp với mức độ phức tạp của nhiệm vụ và chi phí của mô hình.
Những điểm quan trọng cần lưu ý:
- Thực hiện quét lỗ hổng bảo mật bên ngoài liên tục trước khi đầu tư mạnh vào quét mã; các bề mặt không được xác thực là những mục tiêu cấp bách và có khả năng là điểm khởi đầu của cuộc tấn công.
- Xây dựng một hệ thống mô hình AI phân cấp: thực hiện các kiểm tra xác định trước, sử dụng các mô hình rẻ tiền để phát hiện rộng rãi và chỉ sử dụng các mô hình tiên tiến đắt tiền cho các trường hợp cần xác nhận cao.
- Nếu thành lập một công ty mới, hãy thiết kế hệ thống để tự động vá lỗi và sử dụng hệ thống tích hợp liên tục/phân phối liên tục (CI/CD) ngay từ đầu; việc nâng cấp các môi trường truyền thống là khó khăn hơn nhiều và thường không khả thi.
- Xử lý các khóa AI và thông tin đăng nhập của công ty khởi nghiệp như những tài sản quý giá nhất—hạn chế phạm vi sử dụng của chúng, thay đổi chúng thường xuyên và coi chúng như mục tiêu bị tấn công.
- Điều chỉnh nguồn lực của đội ngũ bảo mật từ báo cáo tuân thủ sang các hoạt động tấn công mô phỏng, xác định các rủi ro quan trọng và chuẩn bị sẵn sàng để ứng phó.
- Thiết kế kiến trúc với giả định rằng hệ thống đã bị xâm phạm: thực thi các biện pháp cách ly mạng, quy trình và hình ảnh, và dự đoán các trường hợp thoát khỏi container và các lỗ hổng bảo mật kernel Linux.
- Thiết lập khả năng phát hiện và loại bỏ kẻ tấn công trong vài phút, thay vì vài ngày, vì các cuộc tấn công sử dụng trí tuệ nhân tạo (AI) diễn ra trong khoảng thời gian 20 phút.
- Đánh giá lại hệ thống các nhà cung cấp hiện tại và thay thế các công cụ lỗi thời bằng các công nghệ tích hợp AI, thay vì chỉ đơn thuần mua thêm giấy phép trong thời điểm khủng hoảng.
- Các cơ quan chính phủ và tổ chức phi lợi nhuận nên tận dụng các chương trình quét cộng đồng như Scan for Goods để xác định các lỗ hổng bảo mật quan trọng trước khi kẻ tấn công phát hiện ra.
- Chấp nhận rằng việc vá lỗi hoàn toàn là không thể; ưu tiên giảm thiểu tác động bằng cách cô lập hệ thống và thực hiện các cuộc tấn công mô phỏng liên tục bằng các tác nhân đỏ (red agents).
Wak 在开篇中，并没有将十月份描述为“困难的月份”，而是将其称为“黑色十月”，即一场“黑天鹅”事件，其中前所未有的数量和严重程度的安全事件同时发生。他指出了一种 PHP 漏洞，他认为这可能是迄今为止发现的最严重的漏洞之一，并将这一现象与一类新型的人工智能攻击者联系起来，他们能够在短短二十分钟内，从最初的突破口发展到完全控制。根据 Luttwak 的说法，这已经不再是一种理论上的风险：模型已经足够成熟，能够找到并利用复杂的漏洞，而开源模型的发展速度远远超过了人们的预期，将“每天都是零日漏洞”从一句富有煽动性的推文变成了一种实际情况。
正如 Luttwak 在与 a16z 的访谈中解释的那样，核心问题在于攻击者利用漏洞的能力和软件生态系统修复漏洞的速度之间的差距正在迅速缩小。在 PHP 的案例中，大约一半的 Wiz 客户在两天或三天内应用了补丁，但 PHP 运行在互联网上的约七成服务器上，这意味着完全修复将需要数年时间。Luttwak 提到，漏洞利用信息经常在 CVE（漏洞披露）发布之前就已泄露，而针对 Linux 内核的补丁可能需要数周或数月才能传达到下游发行版。a16z 补充说，修复漏洞所需的时间在过去二十年里实际上已经变得更长，这使得防御方在结构上无法应对那些可以在几分钟内编写的漏洞利用程序。
Luttwak 的答案是放弃静态、特定时间的安全性，转而采用持续、动态的验证。他描述了 Wiz 的红队和蓝队如何协同工作：蓝队运行一个分层流程，该流程从确定性检查开始，通过更廉价的模型处理事件，只有在早期阶段出现可信信号时，才会调用昂贵的先进模型。而红队则会持续地从外部攻击客户自身的环境，并利用最新的 AI 技术。在内部，Wiz 使用一个名为“atlas”的框架来测试多个模型，包括 OpenAI、Google 和 Carbon，因为每个模型都有其独特的优势、成本和速度。对于初创公司而言，这会将工程挑战从购买更多的扫描器转移到设计智能、成本效益的模型流程，该流程优先考虑未经过身份验证的网络暴露，而不是常规的代码扫描。
随后，对话转向组织现实。Luttwak 告诉 a16z，增加安全预算并不能解决问题；重要的是架构和专注。现在正在构建的初创公司应该假设国家级别的攻击能力，并预见容器逃逸和 Linux 内核零日漏洞，并且应该从第一天就将网络、进程和镜像隔离融入到设计中。他对现有的安全团队也毫不留情：他们的大部分时间都花在合规报告和配置检查上，而不是实际的安全工作。他敦促他们停止他们所做的大部分事情，而是专注于发现关键风险，应用检测机制，并做好响应准备——尤其因为 AI 密钥和初创公司的凭证已经成为高价值的目标，这使得初创公司对攻击者来说，就像大型企业一样具有吸引力。
展望未来，两位发言者都认为，网络安全领域将再次面临类似于 1990 年代和 2000 年代初的严峻局面，可能包括互联网蠕虫，它们能够比补丁修复的速度更快地感染系统——Luttwak 将这种现象比作 Windows XP 时代。他重申了之前的一个预测，即在未来十二到十八个月内将出现“Y2K 危机”时刻，并暗示“黑色十月”可能是开端。他观察到，网络攻击现在是少数几个人工智能已经超越人类的领域之一。他认为，能够生存下来的公司，将是那些从根本上重新设计面向互联网的基础设施，并能够迅速地将存在漏洞的系统从网络中移除的公司，而不是依赖过时的防御措施。
最后，Luttwak 将这一论点扩展到公共基础设施领域，警告说，从冰箱到交通系统，所有连接到互联网的设备和过时的软件都面临风险。Wiz 的“Scan for Goods”计划试图通过为公共服务机构和非营利组织提供免费扫描服务来弥补这一差距，并非旨在解决所有问题，而是旨在推动组织进行持续的外部扫描和自我攻击。在他看来，唯一的可行路径是接受漏洞将始终存在，自动化调查和响应，并在对手采取行动之前，不断地攻击自身的环境。
主要讨论主题：
“黑色十月”以及人工智能驱动的漏洞爆发。
Luttwak 将当前的局势描述为“黑色十月”，这是一个罕见的“黑天鹅”事件，其特点是在一个月内集中发生了一系列严重的安全事件。他指出，一种 PHP 漏洞可能是迄今为止发现的最严重的漏洞之一，并将这一现象与人工智能攻击者联系起来，这些攻击者现在以前所未有的速度、专业知识和规模组合在一起。Luttwak 强调，这些攻击者并不局限于传统的攻击目标，他们正在攻击公司、初创企业，甚至连连接到互联网的冰箱。他引用了埃隆·马斯克所说的“每天都是零日漏洞”的观点，以此强调人工智能模型现在已经能够发现并利用复杂的漏洞，而且开源模型的进步速度远超预期，这消除了防御者过去认为自己拥有的缓冲。
攻防时差不对等
导致这场危机的核心问题是时间上的不对等。Luttwak 解释说，开发可用的漏洞利用程序所需的时间已经从几个月或几周缩短到大约 20 分钟，而修复漏洞的时间却没有得到改善。事实上，a16z 指出，在过去的 20 年里，修复漏洞所需的时间反而有所延长。漏洞的细节经常在 CVE（常见漏洞和暴露）发布之前就已泄露，即使已经存在补丁，补丁的传播也需要几周或几个月，尤其是在 Linux 发行版中。Wiz 提供的关于 PHP 漏洞的数据显示，最初的采用速度非常快，大约有 50% 的客户在几天内就进行了补丁，但由于 PHP 支撑了大约 70% 的互联网，因此完全修复将需要数年时间。Luttwak 认为，整个行业尚未准备好应对以机器速度进行的攻击，而人类的速度却无法跟上修复的步伐。
持续验证和红队/蓝队模型
Luttwak 提出了一种方法，即用持续的、动态的验证来取代静态防御。Wiz 的“蓝队”代理程序会通过一个成本分层的流程来调查攻击：首先进行确定性的检查，然后使用廉价的模型进行广泛的检测，只有在前面的阶段发出可信的威胁信号时，才使用昂贵的、最先进的模型。与此同时，“红队”代理程序会持续地从外部攻击客户的环境，模拟对抗行为，并使用最新的 AI 模型。Luttwak 的比喻是一个房子，其中地毯下的钥匙看起来很安全，直到攻击者获得了超能力；上周可能安全的事物，今天可能就不安全了。保持领先的唯一方法是持续地攻击自己，以便在对手发现并利用漏洞之前，自己就能发现并修复这些漏洞。这还包括自动化取证、根本原因分析，以及最终实现自动响应——Luttwak 承认这些步骤可能令人感到恐惧，但它们变得越来越不可避免。
多模型编排作为核心工程
Luttwak 认为，有效的 AI 安全需要编排多个模型和版本，每个模型都具有不同的功能、速度和成本，而不是仅仅依赖于单个的最先进模型。Wiz 的内部漏洞团队使用一个名为“atlas”的工具来测试 OpenAI、Google、Carbon 以及其他模型，因为没有哪个模型在所有任务上都表现最佳。对于那些正在构建 AI 安全服务的创业公司来说，经济上的关键不在于模型的原始性能，而在于智能的流程设计：使用廉价的模型处理大量事件，并将昂贵的模型保留用于最终验证。a16z 和 Luttwak 都认为，这代表着一个根本性的工程转变：安全公司必须擅长模型选择、路由和成本管理，而不仅仅是漏洞检测。
安全架构胜于安全支出。
Luttwak 先生对单纯增加安全预算能否解决问题持怀疑态度。他向 a16z 透露，大多数组织尚未做好应对那些速度和专业水平堪比世界顶尖黑客的攻击者的准备，而且没有任何单一的安全工具能够完美解决所有问题。他建议公司采取“设计以应对潜在风险”的策略：假设存在 Linux 内核漏洞、容器逃逸以及未经过身份验证的网络暴露，并据此实施网络、进程和镜像隔离。他还认为，目前安全团队所做的大部分工作并非真正的安全工作——合规报告和配置检查会消耗应用于发现关键风险、应用检测机制以及确保响应准备就绪的资源。对于初创公司而言，这意味着从一开始就构建自动化补丁、调查和基础设施；对于现有企业而言，这意味着要认识到现有系统带来的限制使得全面自动化变得困难，并据此进行优先级排序。
“蠕虫的回归”与公共基础设施的风险。
两位专家都预测，我们将回到上世纪90年代初和2000年代初那种漏洞密集的网络环境，甚至可能出现传播速度超过系统补丁速度的互联网蠕虫，这让人联想到Windows XP时代，那时一个蠕虫病毒就能在Windows Update完成之前感染一台机器。Luttwak 再次提及他关于“千年虫”的预测，并指出，网络攻击现在已经成为一个罕见的领域，人工智能在处理复杂的任务（如零日内核漏洞利用）方面已经超越了人类。他特别关注公共基础设施和旧设备，从冰箱到交通系统，因此 Wiz 推出了 Scan for Goods，旨在帮助非营利组织和公共服务机构识别潜在的安全风险。目标不是解决所有问题，而是促使组织进行持续的外部扫描和红队测试，以在攻击者利用相同漏洞之前发现并修复它们。
令人惊讶的见解
- 开源人工智能模型在短短几个月内就达到了最先进的水平，这使得漏洞利用的创建变得更加普及，速度远超安全行业最初的预期。
- Luttwak 认为，安全团队所做的大部分工作实际上并非真正的安全工作；合规报告和配置检查占据了他们的大部分时间。
- 扫描未经过身份验证的网络暴露比扫描应用程序代码更紧迫，因为攻击者通常会首先通过暴露的表面进入系统，而不是直接接触代码。
- 漏洞利用的开发时间从几个月缩短到大约20分钟，而修复漏洞的时间实际上在过去二十年里有所恶化。
- 一名攻击者可以在大约20分钟内入侵一家初创公司，并窃取所有秘密和人工智能密钥，这使得初创公司成为了理想的攻击目标。
- 自动化响应令人恐惧，但却是必要的；由人工操作的安全运营中心（SOC）无法与人工智能驱动的入侵速度相提并论。
- 行业可能会再次面临类似于 Windows XP 时代的互联网蠕虫攻击，即系统在补丁完成部署之前就被攻破。
- 网络攻击是少数几个人工智能在复杂任务上已经超越人类的领域之一，包括利用零日漏洞攻击内核。
- 传统企业很难实现补丁的自动化，这使得采用云原生技术的初创公司具有结构上的优势，因为它们可以将自动化融入到其架构中，从一开始就实现自动化。
- 使用单一昂贵的 AI 模型来处理每一个安全事件在经济上是不可持续的；有效的防御需要分层模型流水线，以匹配模型成本和任务复杂度。
实践建议
- 在投入大量资金进行代码扫描之前，先进行持续的外部暴露扫描；未经过身份验证的接口是最紧急和最可能被初始攻击者利用的入口。
- 构建分层 AI 流水线：首先进行确定性的检查，使用廉价的模型进行广泛的检测，仅对高置信度的事件使用昂贵的先进模型。
- 如果创建一家新公司，从一开始就设计自动化补丁和智能 CI/CD 系统；对传统环境进行改造要困难得多，而且往往不现实。
- 将 AI 密钥和启动凭证视为最宝贵的资产——限制其范围，频繁轮换，并假设它们是攻击者积极针对的目标。
- 重新分配安全团队的精力，从合规报告转向红队演练、关键风险识别和响应准备。
- 在设计架构时，假设系统已被攻破：强制执行网络、进程和镜像隔离，并预期会出现容器逃逸和 Linux 内核零日漏洞。
- 在攻击发生后，能够在几分钟内检测并阻止攻击者，而不是几天。这是因为由人工智能驱动的入侵事件通常在短短二十分钟内发生。
- 审查您现有的供应商体系，用人工智能原生技术替换过时的工具，而不是在危机期间简单地增加更多许可。
- 公共机构和非营利组织应利用社区扫描计划，例如“Scan for Goods”，在攻击者之前识别关键的安全漏洞。
- 接受完美修补是不可能的现实，因此应优先通过隔离和持续的自我攻击（使用“红队”模拟攻击）来降低潜在影响范围。
wak commence en décrivant le mois d’octobre non pas comme un mois difficile, mais comme un “Black October” – un événement de type “cygne noir” dans lequel un volume et une gravité sans précédent d’incidents de sécurité se sont produits simultanément. Il souligne une vulnérabilité PHP qu’il qualifie de potentiellement la plus grave jamais découverte, et il relie cette augmentation à une nouvelle catégorie d’attaquants basés sur l’IA, capables de passer d’une brèche initiale à une compromission totale en environ vingt minutes. Selon Luttwak, ce n’est plus un risque théorique : les modèles sont devenus suffisamment performants pour trouver et exploiter des vulnérabilités complexes, et les modèles open source ont rattrapé le niveau des technologies de pointe plus rapidement que prévu, transformant la phrase “chaque jour est un jour zéro” d’un simple tweet provocateur en une réalité opérationnelle.
Le problème central, comme Luttwak l’explique à a16z, est le déséquilibre croissant entre la rapidité avec laquelle les attaquants peuvent transformer une faille en une arme et la lenteur avec laquelle l’écosystème logiciel peut appliquer les correctifs. Dans le cas de PHP, environ la moitié des clients de Wiz ont appliqué les correctifs dans les deux ou trois jours, mais PHP est utilisé sur environ soixante-dix pour cent de l’internet, ce qui signifie que la correction complète prendra des années. Luttwak note que les informations sur les exploits fuient souvent avant même que la publication d’un CVE (Common Vulnerabilities and Exposures) n’ait lieu, et que les correctifs pour les noyaux Linux peuvent prendre des semaines, voire des mois, pour atteindre les distributions. a16z ajoute que le temps nécessaire pour appliquer les correctifs s’est en réalité aggravé au cours des deux dernières décennies, laissant les défenseurs structurellement mal préparés aux exploits qui peuvent désormais être créés en quelques minutes.
La solution proposée par Luttwak consiste à abandonner les systèmes de sécurité statiques et ponctuels au profit d’une validation continue et dynamique. Il décrit le fonctionnement des agents “bleus” et “rouges” de Wiz, qui travaillent en coordination : l’agent “bleu” exécute une série de contrôles, passant par des modèles simples et invoquant des modèles plus complexes uniquement lorsque les étapes précédentes détectent un signal préoccupant. L’agent “rouge”, quant à lui, attaque en permanence l’environnement du client depuis l’extérieur, en utilisant les dernières capacités de l’IA. En interne, Wiz utilise une “plateforme” appelée “atlas” pour tester différents modèles – OpenAI, Google, Carbon – car chacun présente des forces, des coûts et des vitesses distincts. Pour les fondateurs, cela implique de déplacer le défi technique, non pas en achetant plus de scanners, mais en concevant des pipelines de modèles intelligents et rentables qui privilégient la protection contre les expositions non authentifiées sur Internet plutôt que les analyses de code courantes.
La conversation se tourne ensuite vers la réalité organisationnelle. Luttwak explique à a16z qu’augmenter le budget alloué à la sécurité ne résoudra pas le problème ; ce qui compte, c’est l’architecture et la concentration. Les startups qui se développent aujourd’hui doivent partir du principe que leurs systèmes sont susceptibles d’être attaqués par des États, anticiper les failles de sécurité des conteneurs et du noyau Linux, et intégrer dès le départ des mécanismes d’isolation réseau, de processus et d’images dans leur conception. Il est tout aussi direct concernant les équipes de sécurité existantes : la plupart de leur temps est consacrée à la production de rapports de conformité et aux vérifications de configuration, plutôt qu’à un véritable travail de sécurité. Il les encourage à arrêter la plupart de leurs activités et à se concentrer plutôt sur l’identification des risques critiques, la mise en place de systèmes de détection et la préparation des réponses, en particulier parce que les clés d’IA et les identifiants des startups sont devenus des cibles de grande valeur, ce qui rend les entreprises en phase de démarrage aussi attrayantes pour les attaquants que les grandes entreprises.
Compte tenu de l’avenir, les deux intervenants prévoient un retour à un climat de sécurité caractérisé par de nombreuses vulnérabilités, comme dans les années 1990 et au début des années 2000, ce qui pourrait inclure des vers informatiques capables d’infecter les systèmes plus rapidement que les correctifs ne peuvent être appliqués. Luttwak compare cette situation à l’ère de Windows XP. Il réitère une prédiction antérieure concernant un “moment Y2K” dans les douze à dix-huit prochains mois, suggérant que “Black October” pourrait être la première vague, et note que les cyberattaques sont désormais l’un des seuls domaines où l’IA est déjà supérieure aux humains. Selon lui, les entreprises qui survivront seront celles qui redessineront complètement les infrastructures exposées à Internet et qui élimineront rapidement les systèmes vulnérables du réseau, plutôt que de se fier à des mesures de protection obsolètes.
Enfin, Luttwak étend cet argument aux infrastructures publiques, avertissant que les logiciels obsolètes et les appareils connectés à Internet, des réfrigérateurs aux systèmes de circulation, sont tous susceptibles d’être compromis. L’initiative “Scan for Goods” de Wiz tente de combler cette lacune en offrant un service de scan gratuit aux services publics et aux organisations à but non lucratif, non pas pour résoudre tous les problèmes, mais pour encourager les organisations à effectuer des analyses externes continues et à simuler des attaques. Selon lui, la seule voie viable est d’accepter que des vulnérabilités existeront, d’automatiser l’investigation et la réponse, et de tester constamment son propre environnement avant que les adversaires ne le fassent.
Thèmes majeurs de la discussion :
“Black October” et l’explosion des vulnérabilités alimentée par l’IA.
Luttwak décrit la situation actuelle comme une “Octobre noir”, un événement imprévisible marqué par une concentration inhabituelle d’incidents de sécurité graves sur une seule période. Il identifie une vulnérabilité PHP comme étant probablement la plus grave jamais découverte, et lie cette augmentation à des attaques menées par des intelligences artificielles qui combinent désormais vitesse, expertise et échelle d’une manière sans précédent. Ces attaquants ne se limitent pas aux cibles traditionnelles ; Luttwak note qu’ils ciblent des entreprises, des startups, et même des réfrigérateurs connectés à Internet. Il fait référence à l’observation d’Elon Musk selon laquelle “chaque jour est un jour zéro” pour souligner que les modèles d’IA sont désormais capables de trouver et d’exploiter des vulnérabilités complexes, et que les modèles open source ont atteint des capacités de pointe beaucoup plus rapidement que prévu, ce qui élimine la marge de sécurité dont les défenseurs pensaient disposer.
L’asymétrie temporelle entre l’attaque et la défense.
Le déséquilibre fondamental qui alimente cette crise est temporel. Luttwak explique que le temps nécessaire pour développer une exploitation fonctionnelle a considérablement diminué, passant de mois ou de semaines à environ vingt minutes, tandis que les délais de correction n’ont pas suivi. En fait, a16z note que le temps nécessaire pour appliquer les correctifs s’est détérioré au cours des vingt dernières années. Les détails des exploits fuient souvent avant même que le CVE (Common Vulnerabilities and Exposures) ne soit publié, et même lorsque des correctifs existent, ils mettent des semaines, voire des mois, à se propager dans les distributions Linux. Les données de Wiz concernant la vulnérabilité PHP ont montré une adoption initiale rapide, avec environ cinquante pour cent des clients appliquant le correctif en quelques jours, mais comme PHP sous-tend environ soixante-dix pour cent d’Internet, la correction complète prendra des années. Luttwak soutient que l’industrie n’est tout simplement pas prête à faire face à des attaques exploitant la vitesse des machines contre des corrections appliquées à la vitesse humaine.
Validation continue et le modèle “Agent rouge/Agent bleu”.
Luttwak propose de remplacer les défenses statiques par une validation continue et dynamique. L’agent “blue” de Wiz enquête sur les attaques en utilisant une chaîne de traitement classée par coût : des vérifications déterministes en premier, puis des modèles peu coûteux pour une détection large, et des modèles de pointe coûteux uniquement lorsque les étapes précédentes signalent une menace crédible. Parallèlement, l’agent “red” attaque continuellement l’environnement du client, simulant un comportement hostile avec les derniers modèles d’IA. L’analogie de Luttwak est celle d’une maison où la clé sous le paillasson semblait sûre jusqu’à ce que les attaquants acquièrent des “superpouvoirs” ; ce qui était sûr la semaine dernière ne l’est peut-être plus aujourd’hui. La seule façon de rester en avance est d’attaquer continuellement soi-même afin de détecter et de corriger les vulnérabilités avant que les adversaires ne le fassent. Cela s’étend à la forensique automatisée, à l’analyse des causes profondes et, éventuellement, à la réponse automatisée, des étapes que Luttwak reconnaît être effrayantes, mais de plus en plus inévitables.
Orchestration de modèles multiples comme principe fondamental de l’ingénierie
Plutôt que de se fier à un seul modèle de pointe, Luttwak soutient qu’une sécurité IA efficace nécessite l’orchestration de plusieurs modèles et versions, chacun ayant des capacités, des vitesses et des coûts différents. L’équipe interne de Wiz spécialisée dans les vulnérabilités utilise un outil appelé “atlas” pour tester les modèles d’OpenAI, de Google, de Carbon et d’autres, car aucun modèle ne domine toutes les tâches. Pour les fondateurs qui créent des services de sécurité IA, la clé économique ne réside pas dans la puissance brute des modèles, mais dans la conception intelligente des chaînes de traitement : utiliser des modèles peu coûteux pour les événements à grand volume et réserver les modèles coûteux pour la vérification finale. a16z et Luttwak s’accordent à dire que cela représente un changement fondamental dans l’ingénierie : les entreprises de sécurité doivent devenir expertes dans la sélection, le routage et la gestion des coûts des modèles, et non seulement dans la détection des vulnérabilités.
Architecture de sécurité plutôt que dépenses en sécurité.
Luttwak se montre sceptique quant au fait que l’augmentation des budgets de sécurité seule résoudra le problème. Il explique à a16z que la plupart des organisations ne sont pas prêtes à faire face à des attaquants dotés de la rapidité et de l’expertise des meilleurs pirates du monde, et qu’aucun outil de sécurité unique ne peut résoudre tous les problèmes. Il encourage plutôt les entreprises à concevoir leurs systèmes en partant du principe qu’ils seront compromis : en supposant des failles de sécurité critiques dans le noyau Linux, des fuites de conteneurs et une exposition non authentifiée à Internet, puis en mettant en œuvre une isolation réseau, des processus et des images en conséquence. Il affirme également que la plupart de ce que les équipes de sécurité font actuellement n’est pas réellement de la sécurité : les rapports de conformité et les vérifications de configuration consomment des ressources qui devraient être consacrées à l’identification des risques critiques, à la mise en place de mécanismes de détection et à la préparation des réponses. Pour les startups, cela signifie intégrer dès le départ des systèmes de correction automatique, d’investigation et d’infrastructure. Pour les entreprises établies, cela signifie accepter que les contraintes liées aux systèmes existants rendent l’automatisation complète difficile et qu’il est donc nécessaire de prioriser en conséquence.
Le retour des vers et les risques liés aux infrastructures publiques.
Les deux intervenants prévoient un retour à un environnement caractérisé par de nombreuses vulnérabilités, comme dans les années 1990 et au début des années 2000, avec potentiellement des vers informatiques qui se propagent plus rapidement que les systèmes ne peuvent être corrigés. Cette situation rappelle l’époque de Windows XP, où un ver pouvait infecter un ordinateur avant même que Windows Update ne soit terminé. Luttwak réexamine sa prédiction d’un “moment Y2K” et souligne que les cyberattaques sont désormais un domaine rare où l’IA surpasse déjà les humains dans des tâches complexes telles que l’exploitation de failles de sécurité inconnues. Il exprime une inquiétude particulière concernant les infrastructures publiques et les appareils anciens, des réfrigérateurs aux systèmes de circulation, et c’est pourquoi Wiz a lancé Scan for Goods pour aider les organisations à but non lucratif et les services publics à identifier les vulnérabilités. L’objectif n’est pas de résoudre tous les problèmes, mais d’inciter les organisations à effectuer des analyses externes régulières et des tests de validation par des équipes “red team” avant que les attaquants n’exploitent les mêmes faiblesses.
Informations surprenantes
- Les modèles d’IA open source ont atteint le niveau des technologies de pointe en quelques mois, démocratisant la création d’exploits beaucoup plus rapidement que ce que l’industrie de la sécurité avait prévu.
- Luttwak affirme que la plupart des tâches effectuées par les équipes de sécurité ne sont pas réellement liées à la sécurité ; les rapports de conformité et les vérifications de configuration occupent la majorité de leur temps.
- La recherche de vulnérabilités non authentifiées sur Internet est plus urgente que l’analyse du code des applications, car les attaquants entrent généralement par des points d’accès exposés avant même de toucher le code.
- Le temps de développement d’exploits a considérablement diminué, passant de plusieurs mois à environ vingt minutes, tandis que le temps nécessaire pour appliquer les correctifs s’est en réalité détérioré au cours des deux dernières décennies.
- Un attaquant peut compromettre une startup et exfiltrer tous les secrets et les clés d’IA en environ vingt minutes, ce qui fait des entreprises en phase de démarrage des cibles privilégiées.
- La réponse automatisée est effrayante, mais nécessaire ; les centres de sécurité gérés par des humains ne peuvent égaler la rapidité des intrusions alimentées par l’IA.
- L’industrie pourrait assister à un retour de vers informatiques similaires à ceux de l’ère Windows XP, où les systèmes sont compromis avant que les correctifs ne soient déployés.
- La cyberattaque est l’un des rares domaines où l’IA est déjà meilleure que les humains pour les tâches complexes, y compris l’exploitation de failles de sécurité du noyau (zero-day).
- Les entreprises traditionnelles ne peuvent pas automatiser de manière réaliste les correctifs, ce qui donne aux jeunes entreprises cloud-native un avantage structurel s’elles intègrent l’automatisation dans leur architecture dès le début.
- L’utilisation d’un seul modèle d’IA coûteux pour chaque événement de sécurité est économiquement insoutenable ; une défense efficace nécessite des pipelines de modèles structurés qui adaptent le coût du modèle à la complexité de la tâche.
Conseils pratiques
- Effectuez des analyses régulières de l’exposition externe avant d’investir massivement dans l’analyse du code ; les surfaces non authentifiées sont les vecteurs d’attaque les plus urgents et les plus probables.
- Construisez un pipeline d’IA structuré : effectuez d’abord des vérifications déterministes, utilisez des modèles peu coûteux pour la détection générale et ne déployez les modèles de pointe coûteux que pour les situations nécessitant une escalade de confiance.
- Si vous créez une nouvelle entreprise, concevez-la pour l’automatisation des correctifs et l’intégration continue/déploiement continu (CI/CD) automatisée dès le début ; il est beaucoup plus difficile, et souvent irréaliste, de moderniser des environnements existants.
- Considérez les clés d’IA et les identifiants de démarrage comme des actifs précieux : limitez leur portée, effectuez des rotations fréquentes et supposez qu’ils sont activement ciblés par les attaquants.
- Réaffectez les efforts de l’équipe de sécurité de la production de rapports de conformité vers des exercices de “red teaming”, l’identification des risques critiques et la préparation aux réponses.
- Concevez l’architecture en partant du principe d’une compromission : imposez l’isolement du réseau, des processus et des images, et anticipez les évasions de conteneurs et les failles de sécurité du noyau Linux.
- Mettez en place une réponse rapide pour détecter et neutraliser les attaques en quelques minutes, et non en quelques jours, car les intrusions basées sur l’IA se déroulent sur une échelle de temps de vingt minutes.
- Analysez votre infrastructure actuelle et remplacez les outils obsolètes par des technologies natives de l’IA, plutôt que de simplement ajouter davantage de licences pendant une crise.
- Les organismes publics et les organisations à but non lucratif devraient utiliser des programmes de surveillance communautaire tels que Scan for Goods pour identifier les vulnérabilités critiques avant que les attaquants ne le fassent.
- Acceptez qu’une correction parfaite soit impossible ; privilégiez la réduction de la surface d’attaque par l’isolation et les tests d’intrusion continus à l’aide d’agents “red team”.
Wak beginnt seine Ausführungen damit, dass er den Monat Oktober nicht als einen schwierigen Monat beschreibt, sondern als “Black October” – ein “Black-Swan”-Ereignis, bei dem eine beispiellose Anzahl und Schwere von Sicherheitsvorfällen gleichzeitig auftraten. Er weist auf eine PHP-Schwachstelle hin, die er als potenziell die schwerwiegendste aller bisher entdeckten bezeichnet, und verknüpft den Anstieg mit einer neuen Klasse von KI-Angreifern, die in etwa zwanzig Minuten von einem anfänglichen Angriffspunkt zu einer vollständigen Kompromittierung übergehen können. Laut Luttwak ist dies kein theoretisches Risiko mehr: Modelle sind mittlerweile so ausgereift, dass sie komplexe Schwachstellen finden und ausnutzen können, und Open-Source-Modelle haben die Leistungsfähigkeit der neuesten Modelle schneller erreicht, als erwartet, wodurch aus dem provokanten Tweet “jeder Tag ist ein Zero-Day” eine operative Realität geworden ist.
Das zentrale Problem, wie Luttwak gegenüber a16z erklärt, ist die schrumpfende Asymmetrie zwischen der Geschwindigkeit, mit der Angreifer eine Schwachstelle ausnutzen können, und der Geschwindigkeit, mit der das Software-Ökosystem Patches bereitstellt. Im Fall von PHP haben etwa die Hälfte der Wiz-Kunden innerhalb von zwei bis drei Tagen Patches installiert, aber PHP läuft auf etwa siebzig Prozent des Internets, was bedeutet, dass die vollständige Behebung Jahre dauern wird. Luttwak weist darauf hin, dass Informationen über Exploits oft an die Öffentlichkeit gelangen, bevor ein CVE (Common Vulnerabilities and Exposures) überhaupt veröffentlicht wird, und dass Patches für Linux-Kernel Wochen oder Monate benötigen, um die nachgelagerten Distributionen zu erreichen. a16z fügt hinzu, dass die Zeit, die für die Bereitstellung von Patches benötigt wird, in den letzten zwei Jahrzehnten tatsächlich zugenommen hat, was die Verteidiger strukturell unvorbereitet auf Exploits macht, die nun in Minuten erstellt werden können.
Luttwaks Lösung besteht darin, statische, zeitpunktbezogene Sicherheitsmaßnahmen zugunsten einer kontinuierlichen, dynamischen Validierung aufzugeben. Er beschreibt, wie Wiz’s “red team”- und “blue team”-Agenten zusammenarbeiten: Der “blue team”-Agent betreibt eine abgestufte Pipeline, die mit deterministischen Prüfungen beginnt, Ereignisse durch kostengünstigere Modelle leitet und erst dann teure, fortschrittliche Modelle einsetzt, wenn frühere Phasen ein glaubwürdiges Signal liefern. Gleichzeitig greift der “red team”-Agent kontinuierlich aus dem externen Netzwerk auf die Kundenumgebung zu und nutzt dabei die neuesten KI-Technologien. Intern verwendet Wiz ein “Atlas”-System, um verschiedene Modelle – von OpenAI, Google und Carbon – zu testen, da jedes von ihnen unterschiedliche Stärken, Kosten und Geschwindigkeiten aufweist. Für Gründer bedeutet dies eine Verschiebung der technischen Herausforderung: Es geht nicht mehr darum, mehr Scanner zu kaufen, sondern darum, intelligente, kosteneffiziente Modell-Pipelines zu entwickeln, die die Risiken durch ungesicherte Internetverbindungen höher priorisieren als routinemäßige Code-Scans.
Das Gespräch wendet sich dann der organisatorischen Realität zu. Luttwak erklärt gegenüber a16z, dass eine Erhöhung des Budgets für Sicherheit das Problem nicht lösen wird; entscheidend sind vielmehr Architektur und Fokussierung. Startups, die heute neue Produkte entwickeln, sollten davon ausgehen, dass sie mit den Fähigkeiten von Nationalstaaten konfrontiert werden, Container-Ausbrüche und Schwachstellen im Linux-Kernel antizipieren und Netzwerk-, Prozess- und Bildisolierung von Anfang an in ihr Design integrieren. Er spricht ebenfalls offen über bestehende Sicherheitsteams: Der Großteil ihrer Zeit wird für Compliance-Berichte und Konfigurationsprüfungen aufgewendet, anstatt für tatsächliche Sicherheitsaufgaben. Er fordert sie auf, die meisten ihrer aktuellen Tätigkeiten einzustellen und sich stattdessen auf die Identifizierung kritischer Risiken, die Implementierung von Erkennungsmechanismen und die Vorbereitung von Reaktionsplänen zu konzentrieren – insbesondere, weil KI-Schlüssel und Zugangsdaten von Startups zu wertvollen Zielen geworden sind, die junge Unternehmen für Angreifer genauso attraktiv machen wie große Unternehmen.
Mit Blick auf die Zukunft sehen beide Gesprächspartner eine Rückkehr zu einem Sicherheitsumfeld, das von zahlreichen Schwachstellen geprägt ist, ähnlich wie in den 1990er und frühen 2000er Jahren. Dies könnte auch Internet-Würmer umfassen, die Systeme schneller infizieren, als Patches angewendet werden können – ein Szenario, das Luttwak mit der Zeit von Windows XP vergleicht. Er wiederholt seine frühere Vorhersage eines “Y2K-Moments” innerhalb von zwölf bis achtzehn Monaten und deutet an, dass “Black October” möglicherweise der Beginn einer solchen Entwicklung sein könnte. Er stellt außerdem fest, dass Cyberangriffe derzeit einer der wenigen Bereiche sind, in denen künstliche Intelligenz bereits besser ist als menschliche Fähigkeiten. Er argumentiert, dass die Unternehmen, die überleben werden, diejenigen sein werden, die internetexponierte Infrastrukturen von Grund auf neu gestalten und anfällige Systeme schnell aus dem Netzwerk entfernen, anstatt sich auf veraltete Sicherheitsmaßnahmen zu verlassen.
Abschließend erstreckt Luttwak seine Argumentation auf die öffentliche Infrastruktur und warnt, dass veraltete Software und internetvernetzte Geräte, von Kühlschränken bis hin zu Verkehrssystemen, alle gefährdet sind. Wiz’s Initiative “Scan for Goods” versucht, diese Lücke zu schließen, indem sie öffentlichen Einrichtungen und gemeinnützigen Organisationen kostenlose Scans anbietet, nicht um jedes Problem zu lösen, sondern um Organisationen dazu zu bewegen, kontinuierliche externe Scans und “Self-Attacks” durchzuführen. Er ist der Ansicht, dass der einzige gangbare Weg darin besteht, zu akzeptieren, dass Schwachstellen existieren werden, die Untersuchung und Reaktion zu automatisieren und die eigene Umgebung ständig zu testen, bevor Angreifer dies tun.
Wichtige Diskussionspunkte:
“Black October” und die durch KI verursachte Zunahme von Schwachstellen.
Luttwak beschreibt die aktuelle Situation als “Black October”, ein Ereignis, das durch eine ungewöhnlich hohe Konzentration schwerwiegender Sicherheitsvorfälle innerhalb eines einzigen Monats gekennzeichnet ist. Er identifiziert eine PHP-Schwachstelle als wahrscheinlich die schwerwiegendste, die je gefunden wurde, und sieht einen Zusammenhang mit KI-Angreifern, die nun Geschwindigkeit, Fachwissen und Umfang in einer Weise kombinieren, die bisher unbekannt war. Diese Angreifer beschränken sich nicht auf traditionelle Ziele; Luttwak weist darauf hin, dass sie Unternehmen, Start-ups und sogar mit dem Internet verbundene Kühlschränke ins Visier nehmen. Er verweist auf Elon Musks Aussage “every day is zero day”, um zu betonen, dass KI-Modelle nun in der Lage sind, komplexe Schwachstellen zu finden und auszunutzen, und dass Open-Source-Modelle die Fähigkeiten der neuesten Modelle deutlich schneller erreicht haben als erwartet – wodurch der Puffer, den Verteidiger einst für sich reklamierten, aufgehoben wurde.
Die Asymmetrie zwischen Angriff und Verteidigung im Zeitablauf
Das zentrale Ungleichgewicht, das diese Krise antreibt, ist temporaler Natur. Luttwak erklärt, dass die Zeit, die für die Entwicklung einer funktionierenden Ausnutzung benötigt wird, von Monaten oder Wochen auf etwa zwanzig Minuten gesunken ist, während die Zeit für die Behebung von Schwachstellen nicht besser geworden ist. Tatsächlich stellt a16z fest, dass die Zeit für die Behebung von Schwachstellen in den letzten zwanzig Jahren zugenommen hat. Details zu Ausnutzungen werden oft veröffentlicht, bevor eine CVE (Common Vulnerabilities and Exposures) veröffentlicht wird, und selbst wenn Patches verfügbar sind, dauert es Wochen oder Monate, bis sie sich in Linux-Distributionen verbreiten. Die Daten von Wiz zur PHP-Schwachstelle zeigten eine schnelle anfängliche Akzeptanz – etwa fünfzig Prozent der Kunden haben innerhalb weniger Tage gepatcht – aber da PHP etwa siebzig Prozent des Internets ausmacht, wird die vollständige Behebung Jahre dauern. Die Branche ist, so Luttwak, einfach nicht bereit für eine Ausnutzung in Maschinengeschwindigkeit gegen langsame, menschliche Behebung von Schwachstellen.
Kontinuierliche Validierung und das Red Agent/Blue Agent-Modell.
Luttwak schlägt vor, statische Verteidigungsmaßnahmen durch kontinuierliche, dynamische Validierung zu ersetzen. Wiz’s “Blue Agent” untersucht Angriffe mithilfe einer gestaffelten Pipeline: Zuerst werden deterministische Prüfungen durchgeführt, gefolgt von kostengünstigen Modellen für eine breite Erkennung, und teure, fortschrittliche Modelle werden nur dann eingesetzt, wenn frühere Phasen eine glaubwürdige Bedrohung signalisieren. Gleichzeitig greift der “Red Agent” kontinuierlich von außen auf die Kundenumgebung zu und simuliert dabei das Verhalten von Angreifern mithilfe der neuesten KI-Modelle. Luttwaks Analogie ist ein Haus, bei dem der Schlüssel unter der Fußmatte als sicher galt, bis Angreifer Superkräfte erlangten; was letzte Woche noch sicher war, muss heute möglicherweise nicht mehr sicher sein. Der einzige Weg, um die Oberhand zu behalten, besteht darin, sich kontinuierlich selbst anzugreifen, um Schwachstellen zu finden und zu beheben, bevor es Angreifer tun. Dies erstreckt sich auf automatisierte Forensik, Ursachenanalyse und schließlich auf automatisierte Reaktionen – Schritte, die Luttwak zwar als beängstigend, aber zunehmend unvermeidlich ansieht.
Multi-Modell-Orchestrierung als Kern der technischen Entwicklung
Luttwak argumentiert, dass effektive KI-Sicherheit nicht auf einem einzigen, fortschrittlichen Modell beruht, sondern auf der Orchestrierung mehrerer Modelle und Versionen, die jeweils unterschiedliche Fähigkeiten, Geschwindigkeiten und Kosten aufweisen. Das interne Sicherheitsteam von Wiz verwendet eine “Atlas”-Plattform, um Modelle von OpenAI, Google, Carbon und anderen Anbietern zu testen, da kein einzelnes Modell jede Aufgabe beherrscht. Für Gründer, die KI-Sicherheitsdienste entwickeln, liegt der wirtschaftliche Schlüssel nicht in der rohen Leistung des Modells, sondern in einem intelligenten Pipeline-Design: Der Einsatz kostengünstiger Modelle für Ereignisse mit hohem Volumen und die Reservierung teurer Modelle für die abschließende Verifizierung. a16z und Luttwak sind sich einig, dass dies einen grundlegenden Wandel in der technischen Entwicklung darstellt – Sicherheitsunternehmen müssen sich nicht nur auf die Erkennung von Schwachstellen konzentrieren, sondern auch in der Lage sein, Modelle auszuwählen, zu routen und die Kosten zu verwalten.
Sicherheitsarchitektur statt Sicherheitsausgaben.
Luttwak äußert Skepsis, ob größere Sicherheitsbudgets allein das Problem lösen können. Er erklärt gegenüber a16z, dass die meisten Organisationen nicht auf Angreifer vorbereitet sind, die die Geschwindigkeit und das Fachwissen der besten Hacker der Welt besitzen, und dass kein einzelnes Sicherheitstool alle Probleme lösen kann. Stattdessen fordert er Unternehmen auf, sich auf Kompromisse einzustellen: Sie sollen Linux-Kernel-Sicherheitslücken, Container-Ausbrüche und ungesicherte Internetverbindungen als gegeben hinnehmen und entsprechend Netzwerk-, Prozess- und Bildisolierung implementieren. Er argumentiert außerdem, dass ein Großteil dessen, was Sicherheitsteams derzeit tun, keine eigentliche Sicherheit darstellt – Compliance-Berichte und Konfigurationsprüfungen verbrauchen Ressourcen, die stattdessen für die Identifizierung kritischer Risiken, die Implementierung von Erkennungsmechanismen und die Sicherstellung der Reaktionsbereitschaft verwendet werden sollten. Für Start-ups bedeutet dies, von Anfang an automatisierte Patching-, Untersuchungs- und Infrastrukturlösungen zu entwickeln; für etablierte Unternehmen bedeutet es, zu akzeptieren, dass veraltete Systeme eine vollständige Automatisierung erschweren und Prioritäten entsprechend zu setzen.
Die Rückkehr der Malware und das Risiko für öffentliche Infrastrukturen.
Beide Experten prognostizieren eine Rückkehr zu einer Umgebung mit einer hohen Anzahl von Sicherheitslücken, wie sie in den 1990er und frühen 2000er Jahren vorherrschten. Dies könnte auch Internet-Würmer umfassen, die sich schneller verbreiten, als Systeme gepatcht werden können – ein Szenario, das an die Windows XP-Ära erinnert, in der ein Wurm einen Computer infizieren konnte, bevor Windows Update abgeschlossen war. Luttwak geht auf seine vorherige Vorhersage eines “Y2K-Moments” zurück und weist darauf hin, dass Cyberangriffe nun ein Bereich sind, in dem KI bereits bei komplexen Aufgaben wie der Ausnutzung von Sicherheitslücken im Kernel-Bereich menschliche Fähigkeiten übertrifft. Er äußert besondere Bedenken hinsichtlich der öffentlichen Infrastruktur und älterer Geräte, von Kühlschränken bis hin zu Verkehrssystemen. Aus diesem Grund hat Wiz “Scan for Goods” ins Leben gerufen, um gemeinnützigen Organisationen und öffentlichen Dienstleistungen bei der Identifizierung von Schwachstellen zu helfen. Ziel ist es nicht, jedes Problem zu lösen, sondern Organisationen dazu zu bewegen, kontinuierliche externe Scans und “Red-Team”-Tests durchzuführen, bevor Angreifer dieselben Schwachstellen ausnutzen.
Überraschende Erkenntnisse
- Open-Source-KI-Modelle haben in nur wenigen Monaten das Niveau modernster Technologien erreicht, was die Entwicklung von Exploits deutlich schneller vorantreibt, als die Sicherheitsbranche erwartet hat.
- Luttwak argumentiert, dass die meisten Aufgaben, die Sicherheitsteams erledigen, nicht tatsächlich der Sicherheit dienen; Compliance-Berichte und Konfigurationsprüfungen beanspruchen den Großteil ihrer Zeit.
- Das Scannen von unauthentifizierten, öffentlich zugänglichen Systemen ist dringender als das Scannen von Anwendungscode, da Angreifer typischerweise über offene Schnittstellen eindringen, bevor sie überhaupt Code berühren.
- Die Entwicklungszeit für Exploits ist von Monaten auf etwa zwanzig Minuten gesunken, während die Zeit, die für die Behebung von Schwachstellen benötigt wird, in den letzten zwei Jahrzehnten tatsächlich zugenommen hat.
- Ein Angreifer kann ein Startup kompromittieren und innerhalb von etwa zwanzig Minuten alle Geheimnisse und KI-Schlüssel extrahieren, was Unternehmen in der Frühphase zu besonders attraktiven Zielen macht.
- Automatisierte Systeme sind zwar beängstigend, aber notwendig; von Menschen besetzte Security Operations Center (SOCs) können die Geschwindigkeit von KI-gesteuerten Angriffen nicht erreichen.
- Die Branche könnte eine Rückkehr von Internet-Würmern erleben, ähnlich der Zeit von Windows XP, bei der Systeme kompromittiert werden, bevor Patches installiert werden können.
- Cyberangriffe sind einer der wenigen Bereiche, in denen KI bereits besser ist als Menschen bei komplexen Aufgaben, einschließlich der Ausnutzung von Sicherheitslücken im Kernel (Zero-Day).
- Traditionelle Unternehmen können das Patchen nicht realistisch automatisieren, was Cloud-nativen Start-ups einen strukturellen Vorteil verschafft, wenn sie die Automatisierung von Anfang an in ihre Architektur integrieren.
- Die Verwendung eines einzelnen, teuren KI-Modells für jedes Sicherheitsereignis ist wirtschaftlich nicht tragfähig; ein effektiver Schutz erfordert abgestufte Modell-Pipelines, die die Modellkosten an die Komplexität der Aufgabe anpassen.
Praktische Schlussfolgerungen
- Führen Sie kontinuierliche externe Scans durch, bevor Sie stark in die Code-Analyse investieren; nicht authentifizierte Schnittstellen sind die dringendsten und wahrscheinlichsten Angriffspunkte.
- Erstellen Sie eine abgestufte KI-Pipeline: Beginnen Sie mit deterministischen Prüfungen, verwenden Sie kostengünstige Modelle für die allgemeine Erkennung und setzen Sie teure, fortschrittliche Modelle nur für hochwahrscheinliche Eskalationen ein.
- Wenn Sie ein neues Unternehmen gründen, planen Sie von Anfang an eine automatisierte Patch-Verwaltung und eine agentenbasierte CI/CD-Pipeline; die Nachrüstung bestehender Umgebungen ist viel schwieriger und oft unrealistisch.
- Behandeln Sie KI-Schlüssel und Start-Anmeldedaten wie wertvolle Güter – beschränken Sie ihren Umfang, ändern Sie sie häufig und gehen Sie davon aus, dass sie aktiv von Angreifern ins Visier genommen werden.
- Verlagern Sie die Bemühungen des Sicherheitsteams von der Compliance-Berichterstattung hin zu Penetrationstests, der Identifizierung kritischer Risiken und der Reaktionsbereitschaft.
- Entwerfen Sie die Architektur unter der Annahme einer Kompromittierung: Erzwingen Sie Netzwerk-, Prozess- und Bildisolation und gehen Sie von Container-Escapes und Linux-Kernel-Sicherheitslücken aus.
- Stellen Sie eine schnelle Reaktionsfähigkeit bereit, um Angriffe innerhalb von Minuten, nicht Tagen, abzuwehren, da KI-gesteuerte Angriffe in einem Zeitrahmen von etwa zwanzig Minuten ablaufen.
- Überprüfen Sie Ihre bestehenden Anbieter und ersetzen Sie veraltete Tools durch KI-basierte Technologien, anstatt während einer Krise einfach weitere Lizenzen hinzuzufügen.
- Öffentliche Einrichtungen und gemeinnützige Organisationen sollten Community-Scanning-Programme wie “Scan for Goods” nutzen, um kritische Schwachstellen zu identifizieren, bevor Angreifer dies tun.
- Akzeptieren Sie, dass ein perfektes Patching unmöglich ist; priorisieren Sie die Reduzierung des potenziellen Schadens durch Isolierung und kontinuierliche Selbsttests mithilfe von “Red Teams”.
AI isn’t just helping defenders find vulnerabilities. It’s giving attackers the speed and expertise to exploit them faster than many companies can respond. Wiz co-founder and CTO Ami Luttwak joins a16z General Partners Zane Lackey and Sarah Wang to unpack what he calls “Black October,” a wave of vulnerabilities and agentic attacks that he believes marks a turning point for cybersecurity.
They break down PHP2Shell, why AI is collapsing the time between vulnerability discovery and exploitation, and what happens when open-source models put increasingly sophisticated offensive capabilities in more hands. Ami explains why startups are becoming attractive targets, particularly when they hold valuable AI credentials, and why yesterday’s secure architecture may no longer be secure as models improve.
The conversation then turns to defense. Ami argues that companies need to continuously attack their own systems, automate investigation and patching wherever possible, design infrastructure assuming sophisticated attackers will get in, and rethink security stacks built for a slower era. His warning is simple: if attackers can move in minutes, defenders can no longer operate on human timelines.
Resources:
Follow Ami Luttwak on X: https://x.com/amiluttwak
Follow Sarah Wang on X:https://x.com/sarahdingwang
Follow Zane Lackey on X: https://x.com/zanelackey
Learn more about Wiz:https://www.wiz.io/
Read ‘The Rise of Agentic Attacks: What They Look Like, and Where They’re Headed’: https://www.wiz.io/blog/the-rise-of-agentic-attacks
Read more from Wiz’s blogs: https://www.wiz.io/blog
Stay Updated:
Find a16z on YouTube: YouTube
Find a16z on X
Find a16z on LinkedIn
Listen to the a16z Show on Spotify
Listen to the a16z Show on Apple Podcasts
Follow our host: https://twitter.com/eriktorenberg
Please note that the content here is for informational purposes only; should NOT be taken as legal, business, tax, or investment advice or be used to evaluate any investment or security; and is not directed at any investors or potential investors in any a16z fund. a16z and its affiliates may maintain investments in the companies discussed. For more details please see a16z.com/disclosures.
Hosted by Simplecast, an AdsWizz company. See pcm.adswizz.com for information about our collection and use of personal data for advertising.
-
Greg Brockman on Why OpenAI Says We’re Entering the AGI Era
Ben Horowitz and Erik Torenberg sit down with OpenAI co-founder and President Greg Brockman to discuss why he believes AI has entered a new phase, what OpenAI’s latest models reveal about the path to AGI,…
-
World Models, Robotics, and the Future of 3D AI
World Labs co-founder Justin Johnson joins MTS hosts Theo Jaffee and Sofia Puccini to discuss Atlas, World Labs’ latest world model, and the broader case for AI systems that understand and interact with the physical…
-
Why Companies Are Becoming a Series of Loops | Anish Acharya on Lenny’s Podcast
a16z General Partner Anish Acharya joins Lenny Rachitsky on Lenny’s Podcast to discuss why fears of an AI-driven “permanent underclass” may be misplaced, how AI is changing the way companies operate, and why the opportunity…
-
What It Takes to Build a Startup | Andrew Chen & Matt Perault
a16z’s Matt Perault sits down with General Partner and Speedrun lead Andrew Chen on the a16z AI Policy Brief to explore what “Little Tech” actually looks like at the earliest stages, and why the realities…
-
How AI Is Rewriting the Power Law of Venture Capital
a16z’s Jen Kha and David George sit down with Accolade Partners’ Aram Verdiyan to discuss how AI is changing the power law of technology investing, why the largest companies can compound advantages in ways that…
-
Who Grades the AI Models? | Ben Horowitz & Rayan Krishnan
a16z’s Erik Torenberg, Ben Horowitz, and Jennifer Li sit down with Vals founder and CEO Rayan Krishnan to discuss one of AI’s increasingly difficult problems: how do you actually measure whether a model is getting…
-
OpenAI Researchers on the Future of Mathematical Reasoning
a16z Infra Partner Lisha Li sits down with OpenAI mathematicians Mehtaab Sawhney and Mark Sellke to discuss how quickly AI’s mathematical capabilities are advancing, what recent results reveal about model reasoning, and what happens when…
-
Can Open Source Keep AI Power From Concentrating?
MTS host Sophia Dew visits the Open Source AI Summit in San Francisco to ask researchers and founders across the AI stack a central question: can open source prevent AI power from concentrating in the…
-
Your AI Doctor Is Coming | Julie Yoo
a16z General Partner Julie Yoo joins MTS host Sophia Dew to explain why she believes healthcare could benefit more from AI than almost any other industry, and why decades of slow technology adoption may actually…
-
Aaron Levie on Why Open AI Wins
Box co-founder and CEO Aaron Levie joins MTS hosts Theo Jaffee and Sofia Puccini to make the case for open-weight AI, unpack the economics of open versus closed models, and explain why he believes more…