Skip to content

Savikk/aggregations-2

 
 

Folders and files

NameName
Last commit message
Last commit date

Latest commit

 

History

584 Commits
 
 
 
 
 
 
 
 
 
 
 
 

Repository files navigation

Agregacje 2

Data Wranglers

Do aggregacji można wykorzystać te kolekcje:

Kolekcje zostały zaimportowane do bazy MongoDB działającej na maszynie wirtualnej. Do maszyny logujemy się w ten sposób:

mongo --username student --password sesja2013 153.19.1.202/test

Uwaga: Użytkownik student ma uprawnienia tylko do odczytu w bazie test.

Nasze agregacje

  1. Bzyl, Włodzimierz. Imieniny.
  2. Bełcik, Jakub.
  3. Brzeziński, Damian.
  4. Dermont, Jacek.
  5. Detlaf, Krzysztof.
  6. Dępczyk, Michał.
  7. Domurat, Szymon.
  8. Duwe, Oskar.
  9. Gałka, Jacek.
  10. Gniado, Bartosz.
  11. Groszek, Rafał.
  12. Karczewski, Kamil.
  13. Karwowski, Kamil.
  14. Kłeczek, Piotr.
  15. Kotłowski, Piotr.
  16. Królik, Przemysław.
  17. Kubacki, Konrad.
  18. Kwiatkowski, Mateusz.
  19. Lewandowska, Marta.
  20. Łuczun, Rafał.
  21. Małecki, Maciej.
  22. Matulewski, Damian.
  23. Melzer, Grzegorz.
  24. Mieszała, Konrad.
  25. Motel, Mateusz.
  26. Motławski, Mateusz.
  27. Napiórkowski, Sebastian
  28. Osiński, Miłosz.
  29. Paczyński, Łukasz.
  30. Piasecka, Aleksandra.
  31. Pikora, Mateusz.
  32. Plichta, Oskar
  33. Puchalski, Paweł.
  34. Rybarczyk, Karolina.
  35. Sawicki, Paweł.
  36. Siora, Kacper.
  37. Skiba, Marek.
  38. Skowroński, Krzysztof.
  39. Smykowski, Adrian.
  40. Stefanowicz, Michał.
  41. Szygenda, Mateusz.
  42. Wąsowicz, Michał.
  43. Winsławski, Bartłomiej.
  44. Wiśniewski, Konrad.
  45. Zdunek, Kamil.

  1. Białkowski, Dominik.
  2. Cała, Mariusz.
  3. Dobrzycki, Wojciech.
  4. Dolata, Jędrzej.
  5. Elszkowski, Adrian.
  6. Głowacki, Michał.
  7. Januszewski, Tomasz.
  8. Jaźwiński, Robert.
  9. Koźmiński, Marcin.
  10. Malinowski, Piotr.
  11. Osękowski, Dominik.
  12. Ostrowski, Michał.
  13. Pietraszuk, Bartłomiej.
  14. Rogaszewski, Piotr.
  15. Sott, Tomasz.
  16. Tomczak, Robert.
  17. Wiśniewski, Piotr.
  18. Żarkowski, Mateusz.

BigData (+1M)

GetGlue and Timestamped Event Data (ok. 11 GB, 19_831_300 json-ów, próbka 100 jsonów getglue101):

{
  "_id": ObjectId("5276918832cf3c2b84540440"),
  "comment": "",
  "modelName": "movies",
  "displayName": "",
  "title": "The Dark Knight",
  "timestamp": "2008-10-28T16:47:31Z",
  "image": "http://ia.media-imdb.com/images/...@@._V1._SX94_SY140_.jpg",
  "userId": "sippey",
  "private": "false",
  "director": "Christopher Nolan",
  "source": "http://www.imdb.com/title/tt0468569/",
  "version": "1",
  "link": "http://www.imdb.com/title/tt0468569/",
  "lastModified": "2011-12-16T19:39:33Z",
  "action": "Liked",
  "lctitle": "the dark knight",
  "objectKey": "movies/dark_knight/christopher_nolan"
}

Dane z lat 2007–2012, tylko filmy i przedstawienia TV.

Przykładowe aggregacje i zliczania: ilu jest różnych użytkowników w danych? jakie jest 10 najpopularniejszych filmów i przedstawień TV? ile jest różnych akcji?

Ściąga z Gita

Trzy sposoby radzenia sobie z taką sytuacją: We can’t automatically merge this pull request.

Sposób 1:

git remote add miotla007 git://github.com/miotla007/aggregations-2.git
git fetch miotla007
git merge miotla007/master
  .. edycja .. rozwiązywanie konfliktów
git push origin master

git remote rm miotla007

Sposób 2 (sugerowany przez GitHub Team):

git checkout -b miotla007-master master
git pull git://github.com/miotla007/aggregations-2.git master
git checkout master
git merge miotla007-master
git push origin master

git branch -d miotla007-master

Sposób 3

# dociaganie zmian z oryginalnego repozytorium
# https://help.github.com/articles/fork-a-repo#step-3-configure-remotes
git pull upstream

# rebasing naszego brancha
git checkout my-branch
git rebase upstream
  # rozwiązywanie konfliktów jeżeli zajdzie potrzeba
  # (instrukcje pojawią się na ekranie)

Dużym plusem tego sposobu jest brak commita z mergem (porządek w historii repozytorium).

Undo różnych rzeczy:

git reset --merge           # merge
git reset --hard ORIG_HEAD  # rebase

Another common practice is to rebase the last few commits in your current branch

Interactive rebase on GitHub

Jak zmniejszyć liczbę commitów, zmienić ich kolejność i przeredagować wpisy log:

git checkout issue16                       # o ile commity są na tej gałęzi
git log --pretty=oneline HEAD~6..HEAD      # sprawdzamy które commity będziemy zmieniać
git rebase -i HEAD~6                       # poprawiamy ostatnich 6 commitów

.. edycja ..
....  edit -- jeśli chcemy poprawić ten commit lub coś do niego dodać
........  git reset HEAD^  # rollback the last commit
........  git status
........  git add --patch  # lub dodajemy/edytujemy pliki
........
........  git rebase --contiune
....  reword -- poprawiamy tekst wpisu do log

git log --pretty=oneline
git rebase master                          # o ile jesteśmy na gałęzi issue16
git checkout master
git merge issue16
git branch -d issue16                      # możemy usunąć scaloną gałąź

Na stronie manuala gitrevisions jest opisane znaczenie: HEAD^, ^HEAD, HEAD~n.

Stashing:

git stash
git stash list
git stash apply stash@{0}  # przykłady
git stash drop  stash@{0}

Zobacz też:

Generowanie spisu treści

Do automatycznego wygenerowania spisu treści możemy użyć narzędzia o nazwie table-of-contents-preprocessor.

About

MongoDB, CouchDB, Elasticsearch – przykładowe agregacje danych

Resources

Stars

0 stars

Watchers

1 watching

Forks

Packages

 
 
 

Contributors