Przyczyna niestabilności systemu w trakcie kopiowania danych między dyskami i jak temu zapobiec?

Wyłącznie system! Wątpliwości dotyczące aplikacji proszę umieszczać niżej, w odpowiednich forach.
Lapsio
Serdeczny Borsuk
Serdeczny Borsuk
Posty: 117
Rejestracja: 14 sie 2010, 10:42
Płeć: Mężczyzna
Wersja Ubuntu: inny OS
Środowisko graficzne: KDE Plasma
Architektura: x86_64

Przyczyna niestabilności systemu w trakcie kopiowania danych między dyskami i jak temu zapobiec?

Post autor: Lapsio »

Witam. Mam taki problem - otóż na chwilę obecną w komputerze siedzi 6 dysków twardych (1 zewnętrzny)

1.5tb Samsung (zewnętrzny USB 2.0) / NTFS
512 gb Seagate / HFS (OS X)
2tb WD Green (systemowy) / ext4
3x 2tb Seagate NAS (RAID 5 mdadm) / xfs

z innych miejsc na dane to:
ramdysk w /tmp

Podczas kopiowania dużych partii danych często doświadczam kompletnych zwiech systemu (takich totalnych, kilka razy wywalilo mi iXy). Warto zauwazyc ze dzieje sie tak takze przy kopiowaniu danych pomiedzy dyskami innymi niz systemowy np. Seagate i RAID albo Samsung i RAID (ale z WD takze potrafi zwiesic). Zazwyczaj stabilnosc wraca po zakonczeniu kopiowania, ale czasem nigdy nie wraca i musze robic hard reset co jest dosc problematyczne. Raz doswiadczylem utraty danych, od tej pory unikam ctrl+x jak ognia.

system to wprawdzie OpenSUSE ale mam wrazenie ze problem jest bardziej "niskolinuxowy"
cpu: i7-2600k
ram:16gb Kingston HyperX

niemal zawsze na systemie dziala maszyna wirtualna z Win7 (Vbox) z przydzialem 4gb ram. Niebardzo wiem co robic, czy jakis SSD tu pomoze. Swoja droga dyski sa poteznie uzywane (niemal 24/7) wiec troche sie obawiam czy SSD zwyczajnie nie wykituje, a serwerowe SSD Intela i HP to koszt z czterema zerami wiec nie na moja kieszen. Moglbym ewentualnie pomyslec nad jakims RAID 0 z 2 czy 3 VelociRaptorow 256gb. Mam pewne obawy co do tego ramdysku, podobne objawy wystapily jak kiedys sprawdzalem co sie stanie jak napcham wiecej niz 16 gb do /tmp (wywalenie iXow i zwiecha).
Ramdysk jest montowany przez fstab:

Kod: Zaznacz cały

none        /tmp         ramfs   defaults              0 0
Jakis pomysl co jest nie tak i co moge zrobic? powiedzmy ze moge przeznaczyc jakies 600 - 800zl na poprawe sytuacji .
Partycja root zajmuje 28gb wiec 64gb pojemnosci ewentualnego magazynu na system byloby bezpiecznie (rozpatrywalem rowniez kupno 32gb ramu i kopiowanie na starcie czesci systemu do ramdysku).
Ostatnio zmieniony 05 kwie 2014, 18:01 przez Lapsio, łącznie zmieniany 3 razy.
Awatar użytkownika
k2cl
Przyjaciel
Przyjaciel
Posty: 3632
Rejestracja: 09 gru 2007, 12:48
Płeć: Mężczyzna
Wersja Ubuntu: inny OS
Środowisko graficzne: LXDE
Architektura: x86

Re: Problemy ze stabilnością systemu w trakcie kopiowania danych

Post autor: k2cl »

Pytanie pierwsze i zasadnicze - czy po Twoich problemach zostają jakieś ślady w logach systemowych? Zazwyczaj to w ten sposób najłatwiej jest diagnozować wszelkiego rodzaju usterki...
Awatar użytkownika
Pasman
Serdeczny Borsuk
Serdeczny Borsuk
Posty: 166
Rejestracja: 06 sty 2013, 19:31
Płeć: Mężczyzna
Wersja Ubuntu: 16.04
Środowisko graficzne: Inne
Architektura: x86_64

Re: Problemy ze stabilnością systemu w trakcie kopiowania danych

Post autor: Pasman »

Spróbuj przy montowaniu dodać flagi sync,noatime
Mint 21.1, 5600G, RX6600
Lapsio
Serdeczny Borsuk
Serdeczny Borsuk
Posty: 117
Rejestracja: 14 sie 2010, 10:42
Płeć: Mężczyzna
Wersja Ubuntu: inny OS
Środowisko graficzne: KDE Plasma
Architektura: x86_64

Re: Przyczyna niestabilności systemu w trakcie kopiowania danych między dyskami i jak temu zapobiec?

Post autor: Lapsio »

przy montowaniu dyskow, czy ramdysku?
Awatar użytkownika
igotit4free
Przyjaciel
Przyjaciel
Posty: 6453
Rejestracja: 29 paź 2008, 22:51
Płeć: Mężczyzna
Architektura: x86_64
Lokalizacja: KRK

Re: Przyczyna niestabilności systemu w trakcie kopiowania danych między dyskami i jak temu zapobiec?

Post autor: igotit4free »

Prądu masz dość? W sensie zasilacz to wszystko ogarnia w szczycie transferu?
Windows 10 @ GA-P67A-D3-B3, i3-2100 3.10GHz, 8GB RAM, Gigabyte HD6850 1GB RAM
Android 7.0 @ Motorola Moto G4+
Lapsio
Serdeczny Borsuk
Serdeczny Borsuk
Posty: 117
Rejestracja: 14 sie 2010, 10:42
Płeć: Mężczyzna
Wersja Ubuntu: inny OS
Środowisko graficzne: KDE Plasma
Architektura: x86_64

Re: Przyczyna niestabilności systemu w trakcie kopiowania danych między dyskami i jak temu zapobiec?

Post autor: Lapsio »

zasilacz 600W Tagan, raczej stosunkowo dobry. Karta to 9600GT (~90W) wiec raczej wszystko powinno dawac rade.
Nie podalem m/b jesli to ma znaczenie Sabertooth P67 - dysk systemowy jest podlaczony przez Marvell SATA 6Gb podobnie jak jeden z dyskow w RAID. pozostale 2 na natywne SATA 6Gb.

RAID nie jest montowany na starcie systemu tylko 'na klikniecie' w KDE (dolphin), bo uzywam go bardziej do backupu
Awatar użytkownika
Pasman
Serdeczny Borsuk
Serdeczny Borsuk
Posty: 166
Rejestracja: 06 sty 2013, 19:31
Płeć: Mężczyzna
Wersja Ubuntu: 16.04
Środowisko graficzne: Inne
Architektura: x86_64

Re: Przyczyna niestabilności systemu w trakcie kopiowania danych między dyskami i jak temu zapobiec?

Post autor: Pasman »

przy montowaniu dyskow, czy ramdysku?
tylko przy dyskach usb.
Mint 21.1, 5600G, RX6600
Lapsio
Serdeczny Borsuk
Serdeczny Borsuk
Posty: 117
Rejestracja: 14 sie 2010, 10:42
Płeć: Mężczyzna
Wersja Ubuntu: inny OS
Środowisko graficzne: KDE Plasma
Architektura: x86_64

Re: Przyczyna niestabilności systemu w trakcie kopiowania danych między dyskami i jak temu zapobiec?

Post autor: Lapsio »

problemy nie wystepuja tylko przy usb :C. Szczerze mowiac tutaj problem jest nawet mniej odczuwalny przez niska przepustowosc dysku USB. Przy RAID mam tez cos takiego ze jak zamontuje RAID i wyswietle w Dolphinie to po przejsciu do kilku katalogow zawsze lapie scine na jakies 1 - 2min (totalny freez, tylko mysza dziala) i lampka uzycia HDD nie gasnie

-- 05 kwi 2014 21:57 --

Generalnie rozumiem ze operacje dysku moga powodowac jakies lekkie spowolnienia ale to jest KOMPLETNY freeze, ktory co gorsza czasem jest trwaly. Na win nigdy tak nie miewam chociaz ciezko to porownac bo na Win dziala mi tylko 1 z wewnetrznych HDD (WD)

-- 05 kwi 2014 22:08 --

które pliki z /var/log powinienem sprawdzic? folder ma 117MB i dosc duzo plików

-- 05 kwi 2014 22:20 --

w pliku warn jest kilka byc moze zwiazanych z problemem wpisów. Nie jestem pewien na ile to może dotyczyć ale mam wpisy takie jak:

Kod: Zaznacz cały

2014-04-05T12:01:19.553889+02:00 linux-rwe5 kernel: [  157.625720] EXT4-fs (sde6): Unaligned AIO/DIO on inode 26612280 by AioMgr0-N; performance will be poor.
ACPI Warning: 0x0000000000000500-0x000000000000052f SystemIO conflicts with Region \_SB_.PCI0.SBRG.GPBX 1 (20120913/utaddress-251)
załączam plik, bo jest tu tego sporo
https://dl.dropboxusercontent.com/u/441 ... table/warn
https://dl.dropboxusercontent.com/u/441 ... e/messages
na samym koncu powinny sie pojawic ewentualne bledy, przed samym skopiowaniem logow wywolalem taka scine od kopiowania danych
Awatar użytkownika
Dwimenor
Przebojowy Jelonek
Przebojowy Jelonek
Posty: 1260
Rejestracja: 18 mar 2008, 16:14
Płeć: Mężczyzna
Wersja Ubuntu: 13.10
Architektura: x86_64

Re: Przyczyna niestabilności systemu w trakcie kopiowania danych między dyskami i jak temu zapobiec?

Post autor: Dwimenor »

To co opisujesz wygląda mi na dojść stary problem (sięga czasów kernela 2.6.17), który u niektórych występuje u innych nie. Przynajmniej logi wyglądają podobnie.
Objawy: gigantyczny wzrost obciążenia systemu(system load) podczas kopiowania danych pomiędzy różnymi urządzeniami. Na desktopach najczęściej przy kopiowaniu na klucze USB 2.0 ale występuje tez przy kopiowaniu z jednego fizycznego dysku twardego na drugi. Spróbuj dwóch rzeczy:
1. Wyłącz całkowicie swap.
sudo swapoff -a
lub
echo 0 > /proc/sys/vm/swappiness
(te ustawienia nie są zapisywane po restarcie)
2. Pobawienie się opcjami vm.dirty_background_ratio oraz vm.dirty_ratio. Ale to już wymaga trochę eksperymentów. Więcej tutaj:
http://lonesysadmin.net/2013/12/22/bett ... rty_ratio/
Poniższe zdanie jest fałszywe.
Powyższe zdanie jest prawdziwe.
Lapsio
Serdeczny Borsuk
Serdeczny Borsuk
Posty: 117
Rejestracja: 14 sie 2010, 10:42
Płeć: Mężczyzna
Wersja Ubuntu: inny OS
Środowisko graficzne: KDE Plasma
Architektura: x86_64

Re: Przyczyna niestabilności systemu w trakcie kopiowania danych między dyskami i jak temu zapobiec?

Post autor: Lapsio »

zmniejszenie cache spowodowalo zmniejszenie freezow. Swapoff nic nie zmienilo. Freezy nadal wystepuja - wtedy kiedy w trakcie kopiowania jakis program chce dostepu do dysku - w moim przypadku po najechaniu na folder dolphin chce wygenerowac podglad i komp sie scina
Awatar użytkownika
enedil
Przebojowy Jelonek
Przebojowy Jelonek
Posty: 1352
Rejestracja: 08 wrz 2012, 16:54
Płeć: Mężczyzna
Wersja Ubuntu: inny OS
Środowisko graficzne: i3
Architektura: x86_64
Kontakt:

Re: Przyczyna niestabilności systemu w trakcie kopiowania danych między dyskami i jak temu zapobiec?

Post autor: enedil »

Może jakiś problem z dyskiem? Przejrzyj

Kod: Zaznacz cały

dmseg
Dobrze jest, psiakrew, a kto powie, że nie, to go w mordę!

~moderatorzy
Awatar użytkownika
Dwimenor
Przebojowy Jelonek
Przebojowy Jelonek
Posty: 1260
Rejestracja: 18 mar 2008, 16:14
Płeć: Mężczyzna
Wersja Ubuntu: 13.10
Architektura: x86_64

Re: Przyczyna niestabilności systemu w trakcie kopiowania danych między dyskami i jak temu zapobiec?

Post autor: Dwimenor »

Lapsio pisze:zmniejszenie cache spowodowalo zmniejszenie freezow. Swapoff nic nie zmienilo. Freezy nadal wystepuja - wtedy kiedy w trakcie kopiowania jakis program chce dostepu do dysku - w moim przypadku po najechaniu na folder dolphin chce wygenerowac podglad i komp sie scina
Napisz co dokładnie zrobiłeś, że zmniejszyło freezy.
Poniższe zdanie jest fałszywe.
Powyższe zdanie jest prawdziwe.
Lapsio
Serdeczny Borsuk
Serdeczny Borsuk
Posty: 117
Rejestracja: 14 sie 2010, 10:42
Płeć: Mężczyzna
Wersja Ubuntu: inny OS
Środowisko graficzne: KDE Plasma
Architektura: x86_64

Re: Przyczyna niestabilności systemu w trakcie kopiowania danych między dyskami i jak temu zapobiec?

Post autor: Lapsio »

zmniejszylem cache z domyslnego 5 / 10 na 1 / 2. To wychodzi mniej wiecej tyle samo co domyslne jakbym mial 4gb ramu. Freezy sa takie regularne wyglada troche jakby on za kazdym razem cachowal i zrzucal na dysk, znowu cachowal i znowu zrzucal.

-- 07 kwi 2014 10:37 --

Kod: Zaznacz cały

dmesg
prints only a lot of network logs. I doubt there is something wrong with HDD. I've checked many times with smartctl and nothing unexpected, neither mdadm reported anything
Awatar użytkownika
Dwimenor
Przebojowy Jelonek
Przebojowy Jelonek
Posty: 1260
Rejestracja: 18 mar 2008, 16:14
Płeć: Mężczyzna
Wersja Ubuntu: 13.10
Architektura: x86_64

Re: Przyczyna niestabilności systemu w trakcie kopiowania danych między dyskami i jak temu zapobiec?

Post autor: Dwimenor »

Lapsio pisze:zmniejszylem cache z domyslnego 5 / 10 na 1 / 2. To wychodzi mniej wiecej tyle samo co domyslne jakbym mial 4gb ramu. Freezy sa takie regularne wyglada troche jakby on za kazdym razem cachowal i zrzucal na dysk, znowu cachowal i znowu zrzucal.
Bo to mniej więcej się właśnie dzieje. Przy dużym IO nie wyrabia z rzucaniem danych. Kilka luźnych pomysłów.

Można spróbować podnieść wartości cache (wtedy będzie zapisywał w ramie więcej i rzadziej zrzucał na dysk),

wymusić mniejsze korzystanie ze swapa (nie całkowite wyłączenie):

Kod: Zaznacz cały

echo 5 > /proc/sys/vm/swappiness
Przenieść swapa na bardziej wydajny dysk (nie napisałeś gdzie go trzymasz). Na twojej konfiguracji użyłbym tego systemowego.

Wyłączyć ramdysk dla /tmp i sprawdzić czy problem dalej występuje (zapewne tak).

Co do RAMdysku: używasz tu systemu plików ramfs, który ma tu dwie wady: korzysta ze swapa (jak mu się skończy miejsce) i ma nieograniczony rozmiar (jeżeli zabraknie miejsca to i tak dalej będzie próbował zapisywać dane). Spróbuj zmienić na tempfs i określić maksymalny rozmiar (opcja montowania dla 512 megabajtów size=512M) a następnie poeksperymentuj z ustawieniami swapa oraz cache.
Tempfs nie korzysta ze swapa i jak skończy się miejsce to wywali błąd zamiast zawiesić system.
Poniższe zdanie jest fałszywe.
Powyższe zdanie jest prawdziwe.
Lapsio
Serdeczny Borsuk
Serdeczny Borsuk
Posty: 117
Rejestracja: 14 sie 2010, 10:42
Płeć: Mężczyzna
Wersja Ubuntu: inny OS
Środowisko graficzne: KDE Plasma
Architektura: x86_64

Re: Przyczyna niestabilności systemu w trakcie kopiowania danych między dyskami i jak temu zapobiec?

Post autor: Lapsio »

watpie zeby swiekszenie cache pomoglo, raczej przeciwnie - zalezy mi glownie na kopiowaniu duzych partii danych. Z tym ramfs to w ogole tak troche dziwnie jest no bo free -g pokazuje bardzo duze zajecie ramu, a zawartosc /tmp ma... 16kb

Kod: Zaznacz cały

             total       used       free     shared    buffers     cached
Mem:           15G        12G       2.8G         0B       210M        10G
-/+ buffers/cache:       2.2G        13G
Swap:          68G       832K        68G
12 gb zawalone bo chodzi win7 akurat
ODPOWIEDZ

Wróć do „Instalacja, aktualizacja i konfiguracja Ubuntu”

Kto jest online

Użytkownicy przeglądający to forum: Obecnie na forum nie ma żadnego zarejestrowanego użytkownika i 112 gości