고정 크기 hidden state는 메모리인가, 압축인가?




Surrogate Gradient는 스파이킹 신경망, 즉 SNN을 현대 딥러닝의 학습 도구와 연결하는 우회로다. 순전파에서는 실제 스파이크를 쓰고, 역전파에서는 미분 가능한 가짜 기울기를 쓴다. 한 문장으로는 간단하지만, 이 아이디어를 제대로 이해하려면 세 가지 배경이 필요하다.
첫째, 스파이크 뉴런은 왜 불연속 동역학인가. 둘째, 역전파는 왜 미분 가능성을 요구하는가. 셋째, SNN은 Surrogate Gradient 이전에 어떤 방식으로 학습됐고 무엇이 막혔는가.

이 글은 논문 "HiPPO: Recurrent Memory with Optimal Polynomial Projections"를 근거로, 저자가 제시한 HiPPO 프레임워크의 문제 의식, 수학적 직관, 핵심 방법(연속-시간 ODE와 이산화), 주요 결과와 한계까지 단계적으로 해설합니다. 목표는 단순 요약을 넘어서서, 왜 이런 관점이 필요한지(문제), 어떤 아이디어로 풀리는지(직관), 수식과 알고리즘은 어떻게 연결되는지(메커니즘)를 비전문가도 따라올 수 있게끔 차근차근 풀어내는 것입니다.


Microsoft Research의 'Textbooks Are All You Need'는 소형 코드 전용 LLM인 phi-1(1.3B 파라미터)을 중심으로, 대규모 모델·데이터 스케일 대신 '교재 품질(textbook-quality)'의 선별된 데이터와 소규모 합성 연습 데이터로도 우수한 코드 생성 성능을 달성할 수 있음을 실험으로 보여준다. 주요 결과(논문 초록과 본문 요약에 근거): phi-1은 1.3B 파라미터 모델로 HumanEval에서 50.6% pass@1, MBPP에서 55.5%를 보고하며, 사전학습용으로 약 6B 토큰(웹 필터링)과 1B 토큰 미만(합성 교재), 미세조정에 약 180M 토큰을 사용했다는 점이 핵심이다.

AgentsCAD는 Fused Deposition Modeling(FDM) 부품의 설계-제조(DFAM) 요구를 자동으로 진단하고 수정 제안을 생성하기 위해 기하학적 특징 인식과 다중 에이전트 LLM(reasoning agents)을 결합한 파이프라인을 제안합니다. 본 포스트는 arXiv의 초록 및 공개 메타데이터를 바탕으로 시스템 구조, 핵심 기법, 적용 사례(논문에 기재된 birdhouse 예제)를 기술적으로 요약하고, 제공된 증거에서 확인되지 않는 세부사항은 명확히 표기합니다.
본 글은 제공된 자료(2026-06-04 게시물)를 근거로 9개 주요 AI 에이전트(red-teaming) 도구의 비교와, 실무에서 유의할 핵심 질문들을 요약·분석합니다. 자료는 제품별 강점과 한계, 그리고 에이전트형 AI 테스트에서 중요한 네 가지 평가 축(보안·품질 통합, 에이전트 네이티브 여부, 취약점 대응 흐름, 제품 대 프로세스)을 중심으로 구성되어 있습니다. 제공된 원문은 도구별 설명과 제한점을 담고 있으나, 일부 구현 세부(예: 내부 아키텍처, 정확한 탐지율, 비용 데이터)는 공개 증거에 포함되어 있지 않으므로 그 점은 본문에서 명시합니다.