самореферентная нейросеть
Современная самореференциальная весовая матрица, которая учится себя модифицировать (Юрген Шмидхубер, 2022)
A Modern Self-Referential Weight Matrix That Learns to Modify Itself
Kazuki Irie, Imanol Schlag, Róbert Csordás, Jürgen Schmidhuber
https://arxiv.org/abs/2202.05780
В принципе, такие НС могут мета-обучаться, чтобы учиться, и мета-мета-обучаться, чтобы мета-учиться учиться, и так далее в смысле рекурсивного самосовершенствования. Хотя архитектуры NN, потенциально способные реализовать такое поведение, были предложены с 90-х годов, практических исследований было мало, если они вообще проводились. Здесь мы возвращаемся к таким NN,...
A Modern Self-Referential Weight Matrix That Learns to Modify Itself
Kazuki Irie, Imanol Schlag, Róbert Csordás, Jürgen Schmidhuber
https://arxiv.org/abs/2202.05780
В принципе, такие НС могут мета-обучаться, чтобы учиться, и мета-мета-обучаться, чтобы мета-учиться учиться, и так далее в смысле рекурсивного самосовершенствования. Хотя архитектуры NN, потенциально способные реализовать такое поведение, были предложены с 90-х годов, практических исследований было мало, если они вообще проводились. Здесь мы возвращаемся к таким NN,...