deeplearningzerotoall / tensorflow Goto Github PK

`with summary_writer.as_default(): # for tensorboard
for epoch in range(start_epoch, training_epochs):
for idx, (train_input, train_label) in enumerate(train_dataset):
grads = grad(network, train_input, train_label)
optimizer.apply_gradients(grads_and_vars=zip(grads, network.variables))

            train_loss = loss_fn(network, train_input, train_label)
            train_accuracy = accuracy_fn(network, train_input, train_label)
            
            for test_input, test_label in test_dataset:                
                test_accuracy = accuracy_fn(network, test_input, test_label)

            tf.summary.scalar(name='train_loss', data=train_loss, step=counter)
            tf.summary.scalar(name='train_accuracy', data=train_accuracy, step=counter)
            tf.summary.scalar(name='test_accuracy', data=test_accuracy, step=counter)

            print(
                "Epoch: [%2d] [%5d/%5d] time: %4.4f, train_loss: %.8f, train_accuracy: %.4f, test_Accuracy: %.4f" \
                % (epoch, idx, training_iterations, time() - start_time, train_loss, train_accuracy,
                   test_accuracy))
            counter += 1                
    checkpoint.save(file_prefix=checkpoint_prefix + '-{}'.format(counter))`

부분에서 train 과정에서 test 데이터를 매 epoch마다 사용해서 검증하는 것이 이해가 잘 안되는데 이런 상황이면 test가 아니라 validation으로 봐야되지 않나요?

궁금해서 질문남깁니다.

안녕하세요 도커 포 윈도우 (윈도우 10 프로입니다)에서 주어진 설명서 대로 컨테이너 생성시 ip가 할당이 안되는 문제가 있습니다.

따라서 쥬피터 노트북 사용이 안되네요.. 혹시 어떠한 방법이 있으실까요

감사합니다.

하기 명령어를 실행하면, workspace 위치에서 명령어를 입력할 수 있도록 나오는게 아니라...
Jupytor Notebook 서버가 바로 실행이 된 상태가 됩니다.

docker run -i -t --name tf -p 8888:8888 -p 6006:6006 deeplearningzerotoall/tensorflow

workspace 위치에서 prompt가 깜빡이는 상태가 되어야, git clone 등의 명령어를 실행할 수가 있을텐데요.

바로 Jupytor Notebook 서버가 실행이 된 상태가 되다보니, ctrl + c 를 입력해도 Jupytor Notebook 서버가 종료되면서 바로 container가 종료되는 형태로 동작이 이뤄져서...

생성 및 실행된 tf 컨테이너에서 git clone 또는 pip install 명령을 실행해 볼 수가 없네요; (ㅜ.ㅜ)

혹시 저만 이런 문제를 겪고 있는 것인가요?

상기와 같은 문제로 인해서 Docker 튜토리얼을 제대로 따라갈 수가 없습니다; (ㅜ.ㅜ)

https://github.com/deeplearningzerotoall/TensorFlow/blob/master/docker_user_guide.md

해당 글을 따라하던 중입니다.
주피터 노트북을 실행하는 부분을 제외하고는 모두 성공하였습니다.
jupyter notebook --ip 0.0.0.0 --allow-root
sh run_jupyter_docker.sh
위 두 가지를 모두 실행해봤는데, 동일한 오류가 발생하며 주피터노트북이 실행되지 않습니다.
No web browser found: could not locate runnable browser.

해결방법이 있을까요?

1. lab-02-1-Simple-Liner-Regression-eager.ipynb
2. lab-02-1-Simple_Liner_Regression-eager.ipynb

승준님, 두 개가 같은 내용인데 중복 된것 같습니다. 전자에만 마지막에 "전체코드" 란이 있는데요. 혹시 괜찮으시면 2번째 파일 삭제해도 될까요?

@aisolab

lab-03-1-Linear-Regression-and-Minimizing-Cost-eager.ipynb

안녕하세요! 승준님, 조금은 사소한건데 Gradient Descent 구현에서

데이터 정의하실때는 x_data, y_data 를 쓰셨는데

x_data = [1., 2., 3., 4.]
y_data = [1., 3., 5., 7.]

밑에서 연산을 수행할 때는 X, Y 를 쓰셨더라구요. 그래서 이전에 선언하셧던

X = np.array([1, 2, 3])
Y = np.array([1, 2, 3])

기준으로 코드가 돌아간것 같은데, x_data, y_data 두 가지 X, Y 로 바꿔야하는거 아닌가 싶어서 문의드려요~

영상은 현재 코드 기준이라서, 아마 영상 설명란에 x_data, y_data 는 X, Y = [1, 2, 3] 기준이라고 말해야할 것 같습니다.

준호님, 작성하신 코드 주피터 노트북으로 만들어 주실수 있을까요?
Python 을 쓰면 간결하긴 한데, 처음 학습하시는 분들에게 주피터가 좋을 것 같습니다.

추가로 영상 번호를 아래와 같이 할 예정이라, 코드 번호를 조금 수정해야할 것 같아요. 동영상은 앞부분만 바꿔서 갈아 낄수 있으면 부탁드리겠습니다.

Lab 10-1: ReLU
Lab 10-2: Weight Init
Lab 10-3: Dropout
Lab 10-4: Batch Normalization

# relu part
lab-10-1 > lab 10-1-1 mnist_nn_softmax
lab-10-2 > lab 10-1-2 mnist_nn_relu

# weight init part
lab-10-3 > lab 10-2-1 mnist_nn_xavier
lab-10-4 > lab 10-2-2 mnist_nn_deep
# lab-10-4, 이 파일은 부연설명이 더 필요할 것 같습니다. 
# (뉴런갯수와 층을 조금 추가한거지만, 영상에는 나오지 않는 것이라서 간단하게 어떤 것을 했는지만 코드에 쓰면 될것 같아요) 

# dropout 
lab-10-5 > lab-10-3 mnist_nn_dropout

# batchnorm
lab-10-6 > lab-10-4 mnist_nn_batchnorm

사소한 것이긴 하지만 사용하지 않는 파라미터 features를 loss_fn 에 넣는 것 같네요

안녕하세요 딥러닝도 초보고 깃허브도 처음이라 여기에 질문을 해도 되는지 모르겠습니다
죄송합니다

다름이아니라 모딥2 를 따라해보고 있는데
DNN 실습 fashion MNIST 만들기를 하다가 막혀서 진행이 안되는 부분이 있어서 질문드립니다

tf.keras.layers API 를 이용해 모델 코드를 작성해보세요! "## 코드 시작 ##"과 "## 코드 종료 ##" 사이의 None 부분을 채우시면 됩니다.

여기 부분인데,,

코드 시작

model.add(tf.keras.layers.Dense(512,input_shape=(28,28))) # 첫번째 dense 레이어
model.add(tf.keras.layers.BatchNormalization()) # Batch normalization 레이어
model.add(tf.keras.layers.Relu()) # ReLU 레이어
model.add(tf.keras.layers.Dense(10)) # 두번째 dense 레이어

코드 종료

이렇게 넣었더니
AttributeError Traceback (most recent call last)
in
2 model.add(tf.keras.layers.Dense(512,input_shape=(28,28))) # 첫번째 dense 레이어
3 model.add(tf.keras.layers.BatchNormalization()) # Batch normalization 레이어
----> 4 model.add(tf.keras.layers.Relu()) # ReLU 레이어
5 model.add(tf.keras.layers.Dense(10)) # 두번째 dense 레이어
6 ## 코드 종료 ##

C:\ProgramData\Anaconda3\lib\site-packages\tensorflow\python\util\deprecation_wrapper.py in getattr(self, name)
104 if name.startswith('dw'):
105 raise AttributeError('Accessing local variables before they are created.')
--> 106 attr = getattr(self._dw_wrapped_module, name)
107 if (self._dw_warning_count < _PER_MODULE_WARNING_LIMIT and
108 name not in self._dw_deprecated_printed):

AttributeError: module 'tensorflow.python.keras.api._v1.keras.layers' has no attribute 'Relu'

계속 이런 오류 메시지가 뜨는데 어떻게 하면 될까요 ㅠ.ㅠ

이제 막 시작하는 단계에서 강의자료 및 깃허브 자료는 정말 잘 보고 있습니다.

7장에서 보다 나은 학습방법을 위한 몇 가지 팁을 전달하고 계신데요,
Learning rate decay 기법을 이용한 소스코드의 tf 2.x 버전 의 마지막 출력줄에 대한 의견입니다.
구버전에서는 마지막 출력줄에 decayed learning rate를 출력하셨는데 2.x 버전에서는 빠져 있더라고요.

기존 코드의 마지막줄인 아래내용을,

print("Iter: {}, Loss: {:.4f}".format(step, loss_value))

아래와 같이 수정하면 decayed learning rate를 출력하게 해봤습니다.

print("Iter: {}, Loss: {:.4f}, Learning Rate: {:.8f}".format(step, loss_value, learning_rate(step)))

이번 장의 최종 결과물 같은 것인데 빠져있어서 의견 남겨보았습니다.

제가 수정한 부분이 맞는 것인지 확인부탁드리고, 반영도 되었으면 좋겠습니다!

# Softmax onehot test
sample_db = [[8,2,1,4]]
sample_db = np.asarray(sample_db, dtype=np.float32)

print(softmax_regression(sample_db))

부분에서 아래와 같이 NameError가 뜹니다. 아마 제일 밑에 있는 class "softmax_classifer"안에 있는 함수를 밖에 만들었다가 다시 넣으신것 같은데요. 수정이 필요할것 같습니다.

---------------------------------------------------------------------------
NameError                                 Traceback (most recent call last)
<ipython-input-6-628f83d87c1c> in <module>
      3 sample_db = np.asarray(sample_db, dtype=np.float32)
      4 
----> 5 print(softmax_regression(sample_db))

NameError: name 'softmax_regression' is not defined

[Lab 06-1 Softmax Classification Eager]의 마지막 예제
[# Convert as Class]

Tensorflow 2.0으로 코드수정하여 실행하고 있습니다.
앞부분은 문제없이 실행됩니다만, 마지막 Class예제 실행과정에서 다음오류 발생했습니다.

RuntimeError: You must compile your model before training/testing. Use model.compile(optimizer, loss).

의견 부탁드립니다. 감사합니다.

안녕하세요,

모두를 위한 딥러닝 시즌 2 시청자인데요.

lab12. seq to seq 시청중인데, 비디오에서 보는 결과와 실제 코드를 실행 시켰을때의 결과가 다른데, 혹시 어떤 부분이 다른지 알 수 있을까요?

감사합니다!

12.0~12.1 코드 개선하기