shoorick: (Default)
[personal profile] shoorick
Дано:
  1. текстовой файл объёмом в 2 ГБ (130 млн строк), из коего надо добывать и обрабатывать некие данные;
  2. нежелание ковыряться во всём файле, ибо для тренировки хватит и небольшого фрагмента.
Как поступает нормальный человек, живущий под окнами? Он берёт любимый редактор и начинает отрезать лишнее.

Как поступает ленивый человек? Он заливает файл на ближайший юниксовый сервер и вспоминает о наличии команд head и tail и отрезает лишнее ими.

Как поступает автор, не желающий бездарно гонять гигабайты по сети? Он ставит себе cygwin и уже под ним запускает и head, и tail, и man...

:-)

Date: 2006-04-10 01:40 pm (UTC)
From: [identity profile] shoorick.livejournal.com
Ага. Ты как-то рассказывал... :-D

Date: 2006-04-11 02:59 pm (UTC)
From: [identity profile] ex-aka-scan.livejournal.com
женя, прими мои восхищения:)

Date: 2006-04-10 12:38 pm (UTC)
From: [identity profile] ypq.livejournal.com
2 гига текста ковырять под маздаем?!
мазохизм по-любому.

Дык ить

Date: 2006-04-10 01:42 pm (UTC)
From: [identity profile] shoorick.livejournal.com
Живу я под ним! Более того, ковыряльный скрипт будет в итоге тоже под маздаем шуршать. И обрабатывать за раз несколько файлов по 2 гига...

Date: 2006-04-11 04:32 am (UTC)
From: [identity profile] logicz.livejournal.com
А чё это за хитрый файл на 2 гига? Что за задача вообще?

Файл на 2 гига

Date: 2006-04-11 07:21 am (UTC)
From: [identity profile] shoorick.livejournal.com
Лог. Причём рядом с ним таких же — на 25 ГБ в rar-архивах.

Re: Файл на 2 гига

Date: 2006-04-11 08:39 am (UTC)
From: [identity profile] logicz.livejournal.com
Да, было время, когда мы парсили логи, когда билинговую систему писали... Прикольно!

Re: Файл на 2 гига

Date: 2006-04-11 03:00 pm (UTC)
From: [identity profile] ex-aka-scan.livejournal.com
надеюсь не лог чата?:)

Нет

Date: 2006-04-12 06:45 am (UTC)
From: [identity profile] shoorick.livejournal.com
Не чата

Date: 2006-04-11 09:55 am (UTC)
From: [identity profile] rikkardo.livejournal.com
больно охота цыгвин искать когда ms cl под рукой :)

#define OFFSET 12345677
#define SIZE 4096
void main(void)
{
   char buf[SIZE];
   FILE *f = fopen("file.txt", "rb");
   fseek(f, OFFSET, SEEK_SET), fread(buf, SIZE, 1, f), fclose(f);
   f = fopen("file2.txt", "wb"), fwrite(buf, SIZE, 1, f), fclose(f);
}

У кого что

Date: 2006-04-11 10:29 am (UTC)
From: [identity profile] shoorick.livejournal.com
У а меня цигвин под рукой был.
Хотя перл под рукой был тоже... :-)
На C я уже давно не пишу...

Profile

shoorick: (Default)
shoorick

December 2016

S M T W T F S
    1 23
45678910
11121314151617
18 19 2021222324
25262728293031

Most Popular Tags

Style Credit

Expand Cut Tags

No cut tags
Page generated Mar. 21st, 2026 02:50 pm
Powered by Dreamwidth Studios