Keynote | An Update from the Scaling Laws Frontier

Valeur des informations & solidité de l’argumentation

La valeur des informations est élevée : l’orateur, en tant que Deputy CISO d’Anthropic, apporte un éclairage privilégié sur les capacités actuelles des modèles frontières et les tendances futures. Les données sur la baisse des coûts et les prévisions sur les capacités des modèles open weights sont particulièrement intéressantes. L’argumentation est structurée et s’appuie sur des graphiques et des exemples concrets. Cependant, certaines affirmations, comme la prédiction que les grandes entreprises ne publieront plus de failles d’ici 24 mois, reposent sur des extrapolations optimistes et mériteraient d’être nuancées.

Rigueur scientifique, qualité des sources, adéquation du titre

La rigueur scientifique est bonne : l’orateur cite des sources internes (Anthropic) et des événements publics (projet Glasswing, modèles Mythos). Il mentionne également des benchmarks et des données de coûts. Cependant, les sources ne sont pas toutes détaillées et certaines affirmations ne sont pas sourcées. L’adéquation entre le titre et le contenu est bonne, le titre annonçant clairement une mise à jour sur les lois d’échelle et leurs implications.

Le titre reflète bien le contenu : mise à jour sur les lois d'échelle et leurs implications pour la cybersécurité.

8/10

Exposé d'un expert reconnu (Deputy CISO d'Anthropic) s'appuyant sur des données internes et des observations récentes. Les propos sont nuancés et intègrent des limites, mais certaines projections reposent sur des extrapolations non vérifiables publiquement.

Repères établis par PSI à partir de la transcription : le créateur n'a pas défini de chapitres.

• 02:00Introduction : contexte et objectif de la présentation.
• 05:00Présentation du graphique sur l'évolution de la puissance de calcul et des lois d'échelle.
• 10:00Exemples d'attaques automatisées par des agents IA (GGG zero2, attaques sur des systèmes d'eau).
• 15:00Capacités des modèles Mythos : exploitation de failles zero-day à partir de mises à jour.
• 20:00Prévision sur l'arrivée de modèles open weights capables de ces attaques (3 à 6 mois).
• 25:00Analyse de la baisse des coûts des modèles et implications pour les défenseurs.
• 30:00Intégration d'agents de sécurité dans le SDLC et le SOC, exemples chez Anthropic.
• 35:00Prédiction sur l'élimination des failles de sécurité dans les grandes entreprises d'ici 24 mois.
• 40:00Recommandations pour les défenseurs : zero trust, conception pour la brèche, et préparation à l'augmentation de l'intelligence des modèles.

• Graphique de l'évolution de la puissance de calcul (Our World in Data) — Référence au graphique montrant la croissance exponentielle du calcul pour l'entraînement des modèles.
• Projet Glasswing — Mentionné comme projet collaboratif pour la recherche de vulnérabilités.
• Modèles Mythos — Modèles d'Anthropic capables de réaliser des exploits zero-day.
• GGG zero2 — Acteur étatique chinois utilisant un modèle pour des attaques automatisées.
• GLM 5.3 — Modèle open weights récent avec des capacités cyber.

• Rapport sur les capacités des modèles frontières — Les capacités décrites sont cohérentes avec les rapports publics sur les modèles de dernière génération.
• Études sur l'utilisation d'agents IA en cybersécurité — Les exemples d'attaques automatisées sont corroborés par des analyses de la menace.

• Prédictions sur l'élimination des failles de sécurité — Certains experts pourraient considérer cette prédiction comme trop optimiste, compte tenu de la complexité des systèmes et des facteurs humains.