Системы искусственного интеллекта
Системы искусственного интеллекта
Мы создаём системы ИИ, чьи рекомендации объяснимы, чьё исполнение ограничено архитектурой, а безопасность может быть независимо проверена.
01 /
Наш взгляд
Мы рассматриваем искусственный интеллект как вычислительный компонент сложной инженерной системы. Сам по себе ИИ не является доверенной частью критической инфраструктуры. Доверие должно обеспечиваться архитектурой, независимой от поведения модели.
02 /
Где используется ИИ
Artificial Intelligence
│
▼
▼
Prediction
Optimization
Classification
Planning
│
▼
▼
Architectural Boundary
│
▼
▼
AMAGI
ИИ генерирует рекомендации. Архитектура авторизует исполнение.
03 /
Направления применения
AI for Safety
- Anomaly detection
- Predictive maintenance
- Decision support
- Verification assistance
ALTHEA
AI for Bioengineering
- sgRNA optimization
- Biomarker analysis
- Treatment planning
- Patient-specific modeling
Scio
AI for Media Forensics
- Multimodal fusion
- rPPG analysis
- Spectral analysis
- Audio analysis
AMAGI
AI for Engineering
ИИ вычисляет. AMAGI решает, разрешено ли исполнение физически.
04 /
Полномочия ИИ
What AI is allowed to do
✓
Analyze
✓
Predict
✓
Recommend
✓
Optimize
What AI is NOT allowed to do
✕
Execute critical actions
✕
Modify hardware policies
✕
Bypass safety interlocks
✕
Override human authorization
05 /
Стек ИИ
LLMs
OpenAI
Anthropic
Gemini
Llama
Qwen
Machine Learning
PyTorch
TensorFlow
XGBoost
scikit-learn
Computer Vision
OpenCV
MediaPipe
ONNX Runtime
Bioinformatics
AlphaFold
Biopython
PyMOL
Optimization
Bayesian
RL
Evolutionary
Formal Methods
SPIN
TLA+
Model Checking
SystemVerilog
06 /
Принципы инженерии ИИ
AI is probabilistic.
Architecture must be deterministic.
Models evolve.
Safety policies must remain invariant.
Predictions can be wrong.
Execution must still be safe.
Trust belongs to hardware.
Intelligence belongs to software.