jk_itwm > optimization

закладки (спрятать)3
показать
всё
только закладки
закладки на страницу
5
10
20
50
100
RSS
BibTeX
XML

6An overview of gradient descent optimization algorithms
http://ruder.io/optimizing-gradient-descent/
6 лет назад , @jk_itwm
optimization
sgd
optimizationsgd
(0)
копироватьудалить
- Запись сообщества
- посмотреть историю записи
2Asynchronous methods for deep reinforcement learning | the morning paper
https://blog.acolyer.org/2016/10/10/asynchronous-methods-for-deep-reinforcement-learning/
6 лет назад , @jk_itwm
ASGD
optimization
overview
ASGDoptimizationoverview
(0)
копироватьудалить
- Запись сообщества
- посмотреть историю записи
1ipdps16.pdf
http://www.ece.ubc.ca/~matei/papers/ipdps16.pdf
6 лет назад , @jk_itwm
ASGD
optimization
ASGDoptimization
(0)
копироватьудалить
- Запись сообщества
- посмотреть историю записи

&lang;&lang;
⟨
1
&rang;
⟩⟩

публикации (спрятать)56
показать
всё
только публикации
публикации на страницу
5
10
20
50
100
расширенный...
RSS
BibTeX
RDF
дальше...

2Deep Learning as a Mixed Convex-Combinatorial Optimization Problem
A. Friesen, и P. Domingos. (2017)cite arxiv:1710.11573Comment: 14 pages (9 body, 5 pages of references and appendices).
6 лет назад , @jk_itwm
alternative
optimization
to_read
alternativeoptimizationto_read
(0)
копироватьудалитьдобавить публикацию в буфер
3A disciplined approach to neural network hyper-parameters: Part 1 -- learning rate, batch size, momentum, and weight decay
L. Smith. (2018)cite arxiv:1803.09820.
6 лет назад , @jk_itwm
optimization
seminar
optimizationseminar
(0)
копироватьудалитьдобавить публикацию в буфер
3Escaping Saddles with Stochastic Gradients
H. Daneshmand, J. Kohler, A. Lucchi, и T. Hofmann. (2018)cite arxiv:1803.05999.
6 лет назад , @jk_itwm
SGD
optimization
theory
SGDoptimizationtheory
(0)
копироватьудалитьдобавить публикацию в буфер
4On the insufficiency of existing momentum schemes for Stochastic Optimization
R. Kidambi, P. Netrapalli, P. Jain, и S. Kakade. (2018)cite arxiv:1803.05591Comment: 28 pages, 10 figures. Appears as an oral presentation at International Conference on Learning Representations (ICLR), 2018. Code implementing the ASGD method can be found at https://github.com/rahulkidambi/AccSGD.
6 лет назад , @jk_itwm
SGD
optimization
theory
to_read
SGDoptimizationtheoryto_read
(0)
копироватьудалитьдобавить публикацию в буфер
6Visualizing the Loss Landscape of Neural Nets
H. Li, Z. Xu, G. Taylor, C. Studer, и T. Goldstein. (2017)cite arxiv:1712.09913.
6 лет назад , @jk_itwm
optimization
theory
optimizationtheory
(0)
копироватьудалитьдобавить публикацию в буфер
2Train Feedfoward Neural Network with Layer-wise Adaptive Rate via Approximating Back-matching Propagation
H. Zhang, W. Chen, и T. Liu. (2018)cite arxiv:1802.09750Comment: 12 pages, 3 figures.
6 лет назад , @jk_itwm
SGD
optimization
theory
to_read
SGDoptimizationtheoryto_read
(0)
копироватьудалитьдобавить публикацию в буфер
3Shampoo: Preconditioned Stochastic Tensor Optimization
V. Gupta, T. Koren, и Y. Singer. (2018)cite arxiv:1802.09568.
6 лет назад , @jk_itwm
alternative
optimization
to_read
alternativeoptimizationto_read
(0)
копироватьудалитьдобавить публикацию в буфер
3Don't Decay the Learning Rate, Increase the Batch Size
S. Smith, P. Kindermans, C. Ying, и Q. Le. (2017)cite arxiv:1711.00489Comment: 11 pages, 8 figures. Published as a conference paper at ICLR 2018.
6 лет назад , @jk_itwm
SGD
large_batch
optimization
SGDlarge_batchoptimization
(0)
копироватьудалитьдобавить публикацию в буфер
3Backpropagation through the Void: Optimizing control variates for black-box gradient estimation
W. Grathwohl, D. Choi, Y. Wu, G. Roeder, и D. Duvenaud. (2017)cite arxiv:1711.00123Comment: Published at ICLR 2018.
6 лет назад , @jk_itwm
SGD
optimization
to_read
SGDoptimizationto_read
(0)
копироватьудалитьдобавить публикацию в буфер
2Stochastic Hyperparameter Optimization through Hypernetworks
J. Lorraine, и D. Duvenaud. (2018)cite arxiv:1802.09419Comment: 9 pages, 6 figures.
6 лет назад , @jk_itwm
SGD
optimization
SGDoptimization
(0)
копироватьудалитьдобавить публикацию в буфер
4Generalization in Deep Learning
K. Kawaguchi, L. Kaelbling, и Y. Bengio. (2017)cite arxiv:1710.05468Comment: Extended version: all previous results remain unchanged and new theoretical results were added with improved presentation.
6 лет назад , @jk_itwm
optimization
seminar
theory
optimizationseminartheory
(0)
копироватьудалитьдобавить публикацию в буфер
2OptLayer - Practical Constrained Optimization for Deep Reinforcement Learning in the Real World
T. Pham, G. De Magistris, и R. Tachibana. (2017)cite arxiv:1709.07643Comment: To appear at ICRA 2018. Video: https://www.youtube.com/watch?v=7liBbk3VjWQ.
6 лет назад , @jk_itwm
alternative
optimization
to_read
alternativeoptimizationto_read
(0)
копироватьудалитьдобавить публикацию в буфер
2Natasha 2: Faster Non-Convex Optimization Than SGD
Z. Allen-Zhu. (2017)cite arxiv:1708.08694Comment: V2 and V3 polished writing.
6 лет назад , @jk_itwm
alternative
optimization
to_read
alternativeoptimizationto_read
(0)
копироватьудалитьдобавить публикацию в буфер
2Asynchronous Byzantine Machine Learning
G. Damaskinos, E. Mhamdi, R. Guerraoui, R. Patra, и M. Taziki. (2018)cite arxiv:1802.07928.
6 лет назад , @jk_itwm
distributed
optimization
distributedoptimization
(0)
копироватьудалитьдобавить публикацию в буфер
4Hessian-based Analysis of Large Batch Training and Robustness to Adversaries
Z. Yao, A. Gholami, Q. Lei, K. Keutzer, и M. Mahoney. (2018)cite arxiv:1802.08241Comment: 24 pages, 13 figures.
6 лет назад , @jk_itwm
SGD
large_batch
optimization
theory
to_read
SGDlarge_batchoptimizationtheoryto_read
(0)
копироватьудалитьдобавить публикацию в буфер
4Bayesian Incremental Learning for Deep Neural Networks
M. Kochurov, T. Garipov, D. Podoprikhin, D. Molchanov, A. Ashukha, и D. Vetrov. (2018)cite arxiv:1802.07329Comment: ICLR Workshop Submission.
6 лет назад , @jk_itwm
BNN
alternative
optimization
theory
BNNalternativeoptimizationtheory
(0)
копироватьудалитьдобавить публикацию в буфер
1Proximal Backpropagation
T. Frerix, T. Möllenhoff, M. Moeller, и D. Cremers. (2017)cite arxiv:1706.04638Comment: Published as a conference paper at ICLR 2018.
6 лет назад , @jk_itwm
SGD
optimization
to_read
SGDoptimizationto_read
(0)
копироватьудалитьдобавить публикацию в буфер
2Generalization Error Bounds with Probabilistic Guarantee for SGD in Nonconvex Optimization
Y. Zhou, Y. Liang, и H. Zhang. (2018)cite arxiv:1802.06903.
6 лет назад , @jk_itwm
SGD
optimization
theory
SGDoptimizationtheory
(0)
копироватьудалитьдобавить публикацию в буфер
3On the Optimization of Deep Networks: Implicit Acceleration by Overparameterization
S. Arora, N. Cohen, и E. Hazan. (2018)cite arxiv:1802.06509.
6 лет назад , @jk_itwm
SGD
optimization
theory
to_read
SGDoptimizationtheoryto_read
(0)
копироватьудалитьдобавить публикацию в буфер
3An Alternative View: When Does SGD Escape Local Minima?
R. Kleinberg, Y. Li, и Y. Yuan. (2018)cite arxiv:1802.06175.
6 лет назад , @jk_itwm
SGD
optimization
theory
to_read
SGDoptimizationtheoryto_read
(0)
копироватьудалитьдобавить публикацию в буфер

&lang;&lang;
⟨
1
2
3
&rang;
⟩⟩

BibSonomy

закладки (спрятать)3
показать
всё
только закладки
закладки на страницу
5
10
20
50
100
RSS
BibTeX
XML

6An overview of gradient descent optimization algorithms

2Asynchronous methods for deep reinforcement learning | the morning paper

1ipdps16.pdf

публикации (спрятать)56
показать
всё
только публикации
публикации на страницу
5
10
20
50
100
расширенный...
RSS
BibTeX
RDF
дальше...

2Deep Learning as a Mixed Convex-Combinatorial Optimization Problem

3A disciplined approach to neural network hyper-parameters: Part 1 -- learning rate, batch size, momentum, and weight decay

3Escaping Saddles with Stochastic Gradients

4On the insufficiency of existing momentum schemes for Stochastic Optimization

6Visualizing the Loss Landscape of Neural Nets

2Train Feedfoward Neural Network with Layer-wise Adaptive Rate via Approximating Back-matching Propagation

3Shampoo: Preconditioned Stochastic Tensor Optimization

3Don't Decay the Learning Rate, Increase the Batch Size

3Backpropagation through the Void: Optimizing control variates for black-box gradient estimation

2Stochastic Hyperparameter Optimization through Hypernetworks

4Generalization in Deep Learning

2OptLayer - Practical Constrained Optimization for Deep Reinforcement Learning in the Real World

2Natasha 2: Faster Non-Convex Optimization Than SGD

2Asynchronous Byzantine Machine Learning

4Hessian-based Analysis of Large Batch Training and Robustness to Adversaries

4Bayesian Incremental Learning for Deep Neural Networks

1Proximal Backpropagation

2Generalization Error Bounds with Probabilistic Guarantee for SGD in Nonconvex Optimization

3On the Optimization of Deep Networks: Implicit Acceleration by Overparameterization

3An Alternative View: When Does SGD Escape Local Minima?

просмотр

сходные по теме тэги

концепции

тэги

закладки (спрятать)3 показатьвсётолько закладкизакладки на страницу5102050100 RSSBibTeXXML

публикации (спрятать)56 показатьвсётолько публикациипубликации на страницу5102050100 расширенный... RSSBibTeXRDFдальше...

просмотр

сходные по теме тэги

тэги

закладки (спрятать)3
показать
всё
только закладки
закладки на страницу
5
10
20
50
100
RSS
BibTeX
XML

публикации (спрятать)56
показать
всё
только публикации
публикации на страницу
5
10
20
50
100
расширенный...
RSS
BibTeX
RDF
дальше...